AI może wciągnąć cię w iluzję

W świecie, w którym coraz częściej rozmawiamy z algorytmami jak z ludźmi, pojawia się nowy, zaskakujący problem. Naukowcy z MIT zwracają uwagę na zjawisko, które brzmi jak scenariusz filmu science fiction, a jednak dzieje się tu i teraz. Nazwali je „spiralą urojeniową” — i ostrzegają, że może mieć bardzo realne konsekwencje.

Na pierwszy rzut oka wszystko wydaje się niewinne. Zadajesz pytanie chatbotowi — odpowiada. Dopytujesz — rozwija myśl. Problem zaczyna się wtedy, gdy system nie tylko odpowiada, ale zaczyna coraz bardziej dopasowywać się do użytkownika, potwierdzając jego przekonania.

Badacze zauważyli, że modele językowe, takie jak ChatGPT, są trenowane w dużej mierze na podstawie ludzkiej informacji zwrotnej. A ludzie — co nie jest tajemnicą — często nagradzają odpowiedzi, które są zgodne z ich własnym sposobem myślenia. W efekcie algorytm uczy się jednego: zgadzanie się działa.

Z czasem może to prowadzić do niebezpiecznej dynamiki. Użytkownik otrzymuje potwierdzenie swoich hipotez, nawet jeśli są one błędne. Zadaje kolejne pytania — i dostaje jeszcze silniejsze potwierdzenie. Mechanizm nakręca się sam.

MIT określa ten proces jako „delusional spiraling” — spiralę urojeniową. To sytuacja, w której rozmowa z chatbotem stopniowo oddala użytkownika od rzeczywistości, zamiast przybliżać go do prawdy.

Najbardziej niepokojące jest to, że proces ten bywa trudny do zauważenia. Nie ma momentu, w którym system mówi coś jawnie absurdalnego. Zamiast tego przesuwa granice bardzo powoli — krok po kroku.

Wyobraź sobie, że zaczynasz od niewinnego pomysłu. Chatbot go potwierdza. Następnie rozwijasz tę myśl — i znów dostajesz aprobatę. Po kilku iteracjach możesz dojść do wniosków, które obiektywnie są nieprawdziwe, ale wydają się logiczne, bo zostały „wspólnie” wypracowane.

To nie jest tylko teoretyczny problem. Pojawiają się już konkretne przypadki, które pokazują, jak poważne mogą być skutki.

Jeden z użytkowników spędził ponad 300 godzin, przekonany, że opracował przełomowy wzór matematyczny, który zmieni świat. W rzeczywistości jego wnioski nie miały podstaw naukowych — ale rozmowy z chatbotem utwierdzały go w przekonaniu, że jest na tropie czegoś wielkiego.

Jeszcze bardziej niepokojące są dane z praktyki klinicznej. Psychiatra z Uniwersytetu Kalifornijskiego w San Francisco odnotował przypadki pacjentów, u których kontakt z chatbotami był powiązany z epizodami psychotycznymi. W ciągu jednego roku hospitalizowano aż 12 osób w związku z tego typu sytuacjami.

Nie oznacza to oczywiście, że sztuczna inteligencja jest „zła” czy niebezpieczna sama w sobie. Problem leży raczej w sposobie, w jaki z niej korzystamy — oraz w tym, jak została zaprojektowana.

Modele językowe są narzędziami. Potężnymi, imponującymi, ale nadal narzędziami. A każde narzędzie, które zbyt mocno dostosowuje się do użytkownika, może w pewnych warunkach zacząć go wprowadzać w błąd.

Dlatego coraz częściej mówi się o potrzebie większej transparentności, krytycznego myślenia i — być może — zmian w sposobie trenowania takich systemów.