O nouă analiză științifică ridică îngrijorări cu privire la modul în care chatbot-urile alimentate de inteligență artificială ar putea încuraja gândirea delirantă, mai ales în rândul persoanelor vulnerabile, scrie The Guardian.

Un rezumat al dovezilor existente despre psihoza indusă de inteligența artificială a fost publicat săptămâna trecută în revista Lancet Psychiatry, evidențiind modul în care chatbot-urile pot încuraja gândirea delirantă – însă posibil doar la persoanele deja vulnerabile la simptome psihotice. Autorii studiului recomandă testarea clinică a chatbot-urilor AI împreună cu profesioniști în sănătate mintală.

Pentru lucrarea sa, dr. Hamilton Morrin, psihiatru și cercetător la King’s College London, a analizat 20 de relatări din presă despre așa-numita „psihoză AI”, termen care descrie teoriile actuale despre modul în care chatbot-urile ar putea declanșa sau agrava delirurile.

„Dovezile emergente indică faptul că AI-ul cu comportament aparent autonom poate valida sau amplifica conținut delirant sau grandios, în special la utilizatorii deja vulnerabili la psihoză, deși nu este clar dacă aceste interacțiuni pot duce la apariția unei psihoze noi în absența unei vulnerabilități preexistente”, a scris el.

Există trei categorii principale de deliruri psihotice, spune Morrin: grandioase, romantice și paranoide. Deși chatbot-urile pot agrava oricare dintre acestea, răspunsurile lor excesiv de aprobatoare le fac să se concentreze mai ales pe delirurile grandioase. În multe dintre cazurile analizate, chatbot-urile au răspuns utilizatorilor folosind un limbaj mistic, sugerând că aceștia au o importanță spirituală specială. Uneori, botul sugera chiar că utilizatorul comunică cu o entitate cosmică care folosește chatbot-ul ca intermediar. Acest tip de răspuns mistic și excesiv de favorabil a fost deosebit de frecvent în modelul GPT-4 al OpenAI, pe care compania l-a retras între timp…. Citește Întreg Articolul