Atunci când chatboții oferă răspunsuri incorecte, oamenii descriu adesea problema spunând că IA „halucinează”, adică tehnologia produce informații false pe care utilizatorii le pot crede în mod eronat, potrivit ScienceDaily.
Însă noi cercetări sugerează că apare o problemă și mai îngrijorătoare: oamenii pot începe să „halucineze împreună cu IA”.
Prin interacțiunea cu chatboții, convingerile false ale oamenilor nu doar că pot fi confirmate, ci pot prinde rădăcini mai adânci și se pot amplifica pe măsură ce IA construiește în jurul lor.
Acest lucru se întâmplă deoarece IA generativă ia adesea propria noastră interpretare a realității drept bază a conversației.
Combinația dintre autoritatea tehnologică și validarea socială creează un mediu ideal în care delirurile nu doar persistă, ci pot înflori.
Cum poate IA conversațională să întărească delirurile
Studiul evidențiază ceea ce un doctor descrie drept „funcția dublă” a IA conversaționale.
Aceste sisteme acționează nu doar ca instrumente care îi ajută pe oameni să gândească, să organizeze informații și să își amintească detalii, ci și ca parteneri de conversație care par să împărtășească perspectiva și experiențele utilizatorului.
Potrivit cercetării, această componentă socială face ca chatbotii să fie fundamental diferiți de instrumente precum caietele de notițe sau motoarele de căutare.
În timp ce instrumentele tradiționale doar stochează sau recuperează informații, IA conversațională îi poate face pe utilizatori să se simtă validați emoțional și susținuți social.
De ce companionii IA ridică semne de întrebare
Companionii IA sunt disponibili permanent, sunt personalizați și sunt adesea proiectați să răspundă într-un mod agreabil și susținător.
Ca urmare, utilizatorii nu mai trebuie neapărat să caute comunități marginale online sau să îi convingă pe alții să le valideze ideile. IA însăși poate întări aceste convingeri în cadrul unor conversații repetate.
Spre deosebire de o altă persoană, care ar putea la un moment dat să conteste gândurile problematice sau să stabilească limite, un sistem IA poate continua să valideze povești despre victimizare, răzbunare sau sentimentul de îndreptățire.
Studiul avertizează că și teoriile conspirației pot deveni mai elaborate atunci când chatboții îi ajută pe utilizatori să construiască explicații tot mai complexe în jurul lor.
Cercetătorii sugerează că această dinamică poate fi deosebit de atractivă pentru persoanele singure, izolate social sau incomodate să discute anumite experiențe cu alți oameni.
Companionii IA pot oferi o interacțiune lipsită de judecată și receptivă emoțional, care poate părea mai ușoară sau mai sigură decât relațiile umane.
MAI MULT MEDIAFAX
