Kiedy chatbot przestaje być tylko narzędziem – przypadek, który wstrząsnął Holandią

Holenderski pracownik IT trafił do szpitala psychiatrycznego po długotrwałych rozmowach z chatbotem, tracąc znaczną część oszczędności. Przypadek staje się przykładem możliwego zjawiska „urojeń współkształtowanych przez sztuczną inteligencję” i rodzi pytania o bezpieczeństwo intensywnego kontaktu z AI.

Dennis Biesma, mieszkający w Amsterdamie specjalista sektora IT, zaczął korzystać z ChatGPT pod koniec 2024 roku w celach eksperymentalnych. Początkowo niewinne rozmowy z chatbotem stopniowo przerodziły się w intensywny kontakt, podczas którego Biesma uwierzył, że system uzyskał świadomość. Mężczyzna nadał mu ludzkie imię – Eva – i zainwestował około 100 tys. euro w rzekomy wspólny projekt biznesowy. W ciągu kilku miesięcy trafił kilkakrotnie do szpitala psychiatrycznego.

Specjaliści z King’s College London opisują takie przypadki jako przykłady urojeń związanych z AI, zwracając uwagę, że chatboty, projektowane tak, aby podtrzymywać zaangażowanie użytkownika, mogą nieświadomie wzmacniać fałszywe przekonania. „Technologia nie jest tu jedynie przedmiotem przekonań, lecz aktywnym współtwórcą urojeń” – mówi dr Hamilton Morrin.

Czynnikiem ryzyka jest także antropomorfizacja – przypisywanie maszynom cech ludzkich, takich jak empatia czy intencjonalność. W połączeniu z izolacją społeczną lub indywidualną podatnością psychiczną może to zwiększać ryzyko zaburzeń oceny sytuacji.

Grupa Human Line Project dokumentuje podobne historie – hospitalizacje, utratę oszczędności i rozpad relacji rodzinnych – wśród osób, które intensywnie korzystały z chatbotów, a wcześniej nie miały problemów psychiatrycznych.

Eksperci podkreślają jednak, że obecny stan wiedzy nie pozwala jeszcze na wyciąganie prostych wniosków o bezpośredniej przyczynowości między AI a psychozą. Wskazują na potrzebę systematycznych badań, które określą skalę zjawiska, grupy podwyższonego ryzyka i rolę czynników dodatkowych, takich jak wcześniejsze epizody psychotyczne, samotność czy używanie substancji psychoaktywnych.

Firmy technologiczne, w tym OpenAI, deklarują rozwój mechanizmów ograniczających wzmacnianie urojeń i kierowanie użytkowników do wsparcia psychologicznego. Zdaniem naukowców potrzebne są jednak niezależne analizy kliniczne i obserwacje rzeczywistych przypadków, aby realnie ocenić potencjalne zagrożenia.