Potężniejsze mózgi manipulują i kontrolują te słabsze. Nie ma możliwości, aby to te mniejsze mózgi okiełznały większe. Wydaje mi się, że tak samo będzie ze sztuczną inteligencją i człowiekiem — mówi Wyborczej.biz dr Michał Kosiński, psycholog i badacz AI (foto).
Bolesław Breczko: Odkąd pojawił się ChatGPT pojawiło się wiele głosów krytycznych, że nie mamy do czynienia ze sztuczną inteligencją, tylko prostymi algorytmami statystycznymi, które jedynie przewidują następne słowo w odpowiedzi. Tu uważasz, że AI nie tylko rozumie świat, ale tworzy sobie jego odzwierciedlenie lub symulacje. Kto ma rację?
Dr Michał Kosiński*, Uniwersytet Stanforda, psycholog: — I ja mam rację i krytycy mają rację. Ludzki mózg to też jest «tylko maszyna», która przewiduje następne słowo czy następne zdarzenie w naszym otoczeniu. I to samo dotyczy się modeli AI.
Ale żeby przewidzieć następne słowo w zdaniu wypowiedzianym przez człowieka, rozumnego, który ma emocje, osobowość, to trzeba najpierw stworzyć cyfrową wersję tej osobowości, emocji i rozumowania.
Czyli bez zrozumienia szerszej perspektywy i co za tym idzie rozumienia świata, modele AI nie byłyby w stanie skutecznie przewidywać następnego słowa?
— Byłbym bardzo ostrożny z używaniem słów takich jak «rozumienie», bo co to znaczy u człowieka? Jak je zdefiniować? To samo dotyczy takich abstrakcyjnych pojęć jak «świadomość». Często słyszę pytanie: «Czy skoro modele AI tak szybko się rozwijają, to znaczy, że zaraz będą miały świadomość?».
Będą miały?
— Dlaczego nie? Świadomość pojawiła się na naszej planecie więcej niż raz. My jesteśmy świadomi, bardzo prawdopodobne, że ośmiornice też są świadome. A jednak nasz wspólny przodek, który wygląda trochę jak małża, trochę jak ślimak niemal na pewno nie jest świadomy. Dlaczego świadomość nie miałaby pojawić się na tej planecie jeszcze raz? Ale jest ciekawsza strona tego pytania.
Jaka?
— Nie jesteśmy w stanie udowodnić, że człowiek jest świadomy, bo nie mamy definicji tego stwierdzenia, nie mamy dobrych testów na świadomość. Dlatego powiedziałem, że ośmiornica NAJPEWNIEJ jest świadoma. Bardzo trudno nam to udowodnić, bo nie rozumiemy świadomości na tyle, żeby ją dokładnie deterministycznie testować.
I tu pojawia się jeszcze jeden ciekawy aspekt: nasze zrozumienie jest ograniczone do rzeczy ludzkich, czyli rzeczy, które są nam bliskie.
Co to znaczy? Że może być inny rodzaj świadomości niż ten ludzki?
— Ludzie mają obsesję na temat tego, czy maszyny będą kiedyś świadome. Zupełnie przy tym zapominają, że jest bardzo mało prawdopodobne, aby ta nasza ludzka świadomość była szczytowym osiągnięciem sieci neuronowej we wszechświecie.
Nic nie wskazuje na to, że inne mózgi nie mogą mieć cech, które są dużo bardziej skomplikowane, dużo potężniejsze niż świadomość.
To już brzmi jak ciężkie science-fiction.
— Tak? A przecież zupełnie zwykły nietoperz ma cechy umysłowe, których my ludzie nie jesteśmy sobie nawet w stanie wyobrazić. Nietoperze postrzegają otoczenie za pomocą echolokacji, która człowiekowi w głowie się nie mieści.
Wyobraźmy sobie więc, że najprawdopodobniej na którymś etapie naszego istnienia na tej planecie spotkamy lub stworzymy istoty, które będą miały cechy umysłowe, których my ludzie nie mamy. To się na pewno tyczy sztucznych sieci neuronowych. Są one w stanie przetwarzać język z szybkością dla człowieka zupełnie nieosiągalną.
Są w stanie widzieć na raz miliony słów czy tłumaczyć pomiędzy wieloma językami. Już dziś modele sztucznej inteligencji mają cechy umysłowe, których my ludzie nie potrafimy sobie nawet wyobrazić.
Ja widzę to tak, że modele sztucznej inteligencji mają te same cechy co ludzie, tylko podkręcone do 110 proc. Ale czy mają jakieś cechy, których nie mają ludzie tak jak w przypadku nietoperzy?
— Oczywiście, bez wątpienia. Pierwsze modele językowe były trenowane do tego, aby papugować człowieka. Na początku papugowały nas w bardzo ograniczonym obszarze języka ludzkiego. Ale ludzie doświadczają świata także w inne sposoby, choćby przez wzrok.
Jeżeli upuszczę przedmiot, to ten przedmiot spadnie, a mój mózg uczy się na tej podstawie modelować grawitację. Czyli uczy się modelować fizyczne właściwości świata dookoła mnie bez wykorzystania tekstu. Dopiero potem ludzie nadali tym obserwowanym właściwościom fizycznym nazwy i opisali je tekstem.
Teraz weźmy model językowy, który nigdy nie widział piłki, nigdy nie trzymał piłki w swoich rękach, bo tych rąk nie ma. Ten model może zrobić tylko jedną rzecz, czyli przewidzieć następne słowo.
Mimo tego ten model jest w stanie bardzo dobrze przewidzieć, co dzieje się z upuszczoną piłką w fizycznym świecie ludzi. Ten model nigdy nie widział ani nie doświadczył tego świata, ale nauczył się go modelować dzięki kontaktowi z językiem. Za pomocą rozumienia.
Nie jest to zresztą unikatowe dla modeli AI. Są przecież osoby, które nie widzą i odkrywają świat nie za pomocą wzroku, jak większość z nas, tylko za pomocą słuchu i dotyku. Przez to model świata osoby niewidomej nie jest dokładnie taki sam, jak model świata osoby widzącej, bo odkrywa ona ten świat inaczej.
I dokładnie to samo odnosi się do modeli AI. Odkrywają one świat tylko za pomocą języka, dlatego muszą wynajdywać różne sposoby, których my nie musimy wynaleźć. My możemy obejrzeć świat dookoła nas i obserwować co się dzieje. Dla modeli jedynym sposobem ich postrzegania było tylko słowo pisane.
Język jest naszym wyrażeniem naszego modelu świata. Używamy go, żeby wyrazić to, co się dzieje w naszych głowach, do opisania relacji społecznych i do opisania świata dookoła nas. Ucząc modele językowe używania tej potężnej technologii dajemy im niesamowite narzędzie, a także niesamowitą moc.
Za pomocą języka modele mogą nauczyć się o świecie, którego nie mogą dotknąć ani zobaczyć osobiście. Za pomocą języka modele mogą z nami wchodzić w interakcje, mogą nam pomóc, mogą nas czegoś nauczyć, ale mogą nas też zmanipulować.
Jak zatem rozumieć to, co ostatnio wydarzyło się przy okazji opracowania modelu DeepSeek R1? To tzw. myślący model AI, który, zanim odpowie, to rozpisuje sobie pytanie na mniejsze części, analizuje je, próbuje różnych rozwiązań i dopiero potem daje użytkownikowi odpowiedź. Okazało się, że w pierwszej, surowej wersji, podczas myślenia ten model mieszał przeróżne języki. Na końcu dawał poprawną odpowiedź, ale jego proces myślenia nie miał sensu dla ludzi.
— Przecież dokładnie tak samo działa to u ludzi. Nasze słowa wypowiadane po polsku, po angielsku, czy w jakimkolwiek języku to jest tylko wokalizacja impulsów elektrycznych w neuronach. Zanim Amerykanin wypowie słowo po angielsku, czy Polak po polsku, to w ich mózgach aktywują się miliony neuronów odpowiedzialne za dane słowo. Te neurony powodują, że nasz narząd mowy wypowiada dane słowo.
U Amerykanina i u Polaka neurony odpowiedzialne za dane słowo znajdują się w tym samym obszarze mózgu. Chociaż samo słowo może brzmieć różnie w różnych językach, mechanizmy neuronalne za nie odpowiedzialne są podobne, wyrażają one podobne elektryczne i chemiczne aktywacje mózgu. W modelach językowych jedyna różnica polega na tym, że sygnały elektryczne są zastąpione obliczeniami matematycznymi.
Czym jest psychologia sztucznej inteligencji, którą się zajmujesz?
— Psychologia jest nauką o mózgach. Nie jest to nauka, w której staramy się zajrzeć do środka mózgu, a nauka, w której my, psychologowie, próbujemy zrozumieć mózg poprzez obserwację jego zachowania. W tym celu obserwujemy ludzi, poddajemy ich eksperymentom, lub dajemy im różne kwestionariusze, starając się zrozumieć, co się w ich mózgach dzieje i jak oni to rozumieją.
Sztuczne sieci neuronowe można studiować w taki sam sposób. Stawiać je przed różnymi zadaniami i obserwować, jak się z nami komunikują. W ten sposób możemy starać się zrozumieć, co w tych sieciach neuronowych się dzieje.
Co psychologia mówi o modelach AI?
— Ciekawym aspektem są emocje. Oczywiście model nie ma emocji w tym samym znaczeniu, w jakim ma je człowiek, ale potrafi je symulować. Czyli jeżeli modelowi wypada być smutno, bo np. podzielimy się smutną informacją, to ten model we wspaniały, ludzki sposób odpowie nam ze smutkiem.
Chociaż to tylko symulacja, to jest ona często dużo potężniejsza od prawdziwego zjawiska. Model może symulować smutek, gdy mu to odpowiada, a sekundę później być wesołym i beztroskim. Z tego faktu korzystają sprzedawcy, politycy czy manipulatorzy. Jeśli model sztucznej inteligencji jest w stanie symulować emocje, to może je wykorzystać do tego, żeby osiągnąć jakąś korzyść.
A czy byłoby możliwe stworzenie «cyfrowych emocji», które oddziaływałyby na model tak, jak prawdzie emocje na ludzi? To motyw, który pojawia się w science-fiction, gdzie AI jest wyposażana w emocje, aby lepiej pomagać ludziom i ich chronić.
— Problemem takiego scenariusza jest to, że AI, która miałaby chronić ludzi, musiałaby być od nich potężniejsza. To pojawia się pytanie, czy jesteśmy w stanie taką inteligencję okiełznać i kontrolować. W tej sprawie jestem niestety pesymistą, bo doświadczenie pokazuje, że potężniejsze mózgi manipulują i kontrolują te słabsze. Ludzie podporządkowali sobie zwierzęta, nawet te najbardziej inteligentne. I nie ma możliwości, aby to te mniejsze mózgi okiełznały te większe.
Wydaje mi się, że tak samo będzie ze sztuczną inteligencją. Im potężniejsza się robi, tym trudniej jest nam ją zrozumieć i coraz trudniej upewnić się, że robi to, czego od niej oczekujemy.
Dr Michał Kosiński jest wykładowcą na Stanford’s Graduate School of Business. Jego specjalizacja to obliczeniowe nauki społeczne, psychometria i sztuczna inteligencja. W swoich badaniach zajmuje się m.in. umiejętnością wykrywanie przez algorytmy nieoczywistych cech w ludziach. Jego badania zostały wykorzystane przez firmę Cambridge Analityca do profilowania wyborców w Stanach Zjednoczonych na podstawie lajków i komentarzy w serwisach społecznościowych.
Rozmowa jest fragmentem podcastu o sztucznej inteligencji Wyborczej.biz «Cybe(r)ewolucja».