Naukowcy z Microsoft Research i uniwersytetu Carnegie Mellon zbadali wpływ generatywnej sztucznej inteligencji (to np. ChatGPT) na krytyczne myślenie wśród pracowników, którzy zajmują się przetwarzaniem informacji i wiedzy.
Krytyczne myślenie to umiejętność analizowania informacji, rozumienia ich i wyciągania własnych wniosków, zamiast bezmyślnego przyjmowania tego, co się usłyszy lub przeczyta.
Badanie miało sprawdzić, czy w świecie, w którym to sztuczna inteligencja analizuje, wyciąga wnioski i daje jak na tacy gotowe rozwiązania, myślenie krytyczne u ludzi nie ulega atrofii.
Paradoks automatyzacji
To nie są bezpodstawne obawy. W latach 80. zeszłego wieku brytyjska psycholożka Lisanne Bainbridge opisała podobne zagrożenie — badała, jak automatyzacja wpływa na rolę człowieka w systemach sterowania i nadzoru, zwłaszcza w kontekście lotnictwa, przemysłu i systemów komputerowych. Przewidziała, że im bardziej polegamy na automatyzacji, tym większe ryzyko, że ludzie utracą umiejętność skutecznego reagowania w sytuacjach kryzysowych.
W głośnym artykule z 1983 r. «The Ironies of Automation» (paradoks automatyzacji) opisała pułapki, jakie się z tym wiążą. Jeśli systemy działają samodzielnie, wyręczają nas, więc stopniowo tracimy umiejętność ich obsługi, a często w ogóle przestajemy rozumieć, jak one działają.
Nie jesteśmy więc gotowi na nagłą awarię.
Przykładem jest np. katastrofa samolotu Air France 447 w 2009 r. nad Atlantykiem. Drobna awaria – oblodzenie czujników prędkości – spowodowała, że autopilot się wyłączył i piloci musieli przejąć stery. Nie potrafili jednak zrozumieć, co się dzieje i poprzez serię błędnych decyzji stracili kontrolę nad samolotem, który spadł z 10 tys. m do oceanu.
Wkrótce z tym problemem zmierzymy się wszyscy, kiedy rozpowszechnią się autonomiczne pojazdy. Przestaniemy na co dzień samodzielnie prowadzić auta, co sprawi, że zwiększy się ryzyko błędu, gdy nagle będziemy musieli przejąć kierownicę.
Czy podobne skutki może mieć „automatyzacja» naszego myślenia, związana z wykorzystywaniem generatywnej AI?
Takie pytanie zadał sobie zespół naukowców z Microsoft Research i uniwersytetu Carnegie Mellon.
Zbytnia wiara w AI osłabia krytyczne myślenie
Naukowcy sprawdzali to na 319 ochotnikach z różnych grup wiekowych, zawodów i krajów (część uczestników zgłosiła się z Polski), którzy wykorzystują narzędzia generatywnej AI do takich celów, jak tworzenie treści, wyszukiwanie informacji czy uzyskiwanie porad.
Byli wśród nich specjaliści ds. marketingu, analitycy finansowi, inżynierowie oprogramowania, nauczyciele akademiccy, a nawet pielęgniarka, która weryfikowała informacje w ulotkach edukacyjnych generowanych przez AI dla pacjentów z cukrzycą.
We wszystkich tych zawodach umiejętność krytycznego myślenia jest kluczowa – piszą naukowcy.
Poprosili uczestników badania o wypełnienie ankiety na temat tego, jak korzystają z generatywnej AI, czy są pewni jej zdolności do wykonania określonego zadania, czy ufają uzyskanym wynikom i na ile są pewni, że potrafią sami wykonać daną pracę, bez udziału AI.
Na podstawie odpowiedzi naukowcy oceniali, ile wysiłku włożyli badani w różne etapy swojej pracy, np. analizowanie problemu, łączenie pomysłów czy ocenianie efektu.
Wnioski?
Naukowcy najpierw zauważają, że korzystanie z AI przesuwa nacisk z gromadzenia informacji na ich weryfikację.
„Dane pokazują zmianę wysiłku poznawczego – z samodzielnego wykonywania zadań na nadzorowanie pracy AI» — piszą badacze. Zauważają też, że AI wprawdzie poprawia wydajność, ale zmniejsza krytyczne zaangażowanie, szczególnie w rutynowych lub mniej ryzykownych zadaniach, w których użytkownicy bez zastrzeżeń polegają na wyniku, który wygenerowała sztuczna inteligencja.
Nie zaskakuje więc kolejny wniosek z badania: większa wiara w zdolności AI wiąże się z mniejszym zaangażowaniem w krytyczne myślenie, co może „skutkować pogorszeniem zdolności poznawczych, które powinny być zachowane».
Ryzyko polega na tym, że delegując AI rutynowe zadania, pozostawiając sobie tylko obsługę wyjątkowych przypadków, pozbawiamy się sposobności do nieustannego umysłowego treningu, ćwiczenia własnego osądu, wzmacniania własnych zdolności poznawczych, co czyni nasz umysł mniej przygotowanym na radzenie sobie z wyjątkowymi sytuacjami.
Słowem, stajemy się jak piloci Air France 447, których czujność i przygotowanie osłabiło nadmierne poleganie na autopilocie.
Inny tego typu efekt pokazały wcześniejsze badania naukowców z Wielkiej Brytanii, którzy odkryli, że wspomaganie się AI zmniejsza kreatywność – tj. grupa ludzi, posługujących się sztuczną inteligencją do rozwiązania jakiegoś zadania, wytworzy mniej zróżnicowany, mniej oryginalny i bardziej podobny do siebie zestaw wyników. To również wskazuje na pogorszenie krytycznego myślenia.
Skończył się dobry czas dla geniuszy?
Czy z tego wynika, że sztuczna inteligencja nas ogłupia? Byłby to kolejny paradoks: technologia będąca wytworem genialnych umysłów może sprawić, że z czasem na Ziemi zabraknie geniuszy. Przynajmniej tych ludzkich.
Ale póki co nie ma podstaw do wyciągania tak daleko idących wniosków.
Naukowcy zresztą zauważają, że AI jest najnowszą z długiej serii technologii, które oskarżano o to, że degradują ludzki umysł. Sokrates sprzeciwiał się pismu, twierdząc, że osłabia pamięć i zdolność do myślenia. Mnich Johannes Tritemius krytykował wynalazek druku, bo zbyt łatwy dostęp do książek miał sprawić, że ludzie nie będą doceniać wiedzy. Nauczycielom arytmetyki nie podobały się kalkulatory, wielu także wyklinało internet etc.
Nowe technologie niosły dla nas pewne koszty, ale, ogólnie rzecz biorąc, ich bilans jest korzystny. Choć nie ulega wątpliwości, że rzeczywiście miały i mają wpływ na nasze zdolności poznawcze. Dzisiaj rzadziej ćwiczymy pamięć, bo informacje mamy pod ręką. W czasach mojej młodości znałem na pamięć numery telefonów do wszystkich znajomych, a także rozkłady jazdy autobusów. Teraz w zasadzie pamiętam tylko numer do siebie. Wszystko inne mam w smartfonie, także mapę, która mi pokazuje, jak dojechać do celu, choć raz zdziwiony wjechałem komuś na podwórko, bo AI akurat tamtędy wytyczyła najkrótszą trasę.
Pytanie, czy możemy sobie pozwolić na wyłączenie krytycznego myślenia i także w tej kwestii zdanie się na AI?
Naukowcy z Microsoftu w konkluzji swojego badania sugerują, że narzędzie AI powinny być projektowane w ten sposób, aby nie zniechęcać, lecz pobudzać do myślenia. Chodzi o to, by AI nie tylko robiła coś za nas, ale żebyśmy myśleli nad tym, co robi, w jaki sposób i dlaczego.
Słowem, algorytm miałby nas od czasu do czasu szturchać: «hej, człowieku, nie śpij, myśl!»
Ale czy to pomoże?
Dziennikarz i redaktor naukowy, z wykształcenia fizyk, pracuje w «Gazecie Wyborczej» od roku 1991, popularyzuje odkrycia z nauk ścisłych, kosmosu, matematyki i techniki
https://wyborcza.pl