Chatbotii de inteligență artificială pot genera răspunsuri incorecte, fenomen pe care cercetătorii îl descriu ca „halucinație”, conform Mediafax Ro. Mai mult, studiile recente arată că utilizatorii pot începe să „halucineze împreună cu IA”, adică să accepte și să consolideze informații false în dialog cu sistemele.
Confirmarea convingerilor false
Prin interacțiune cu chatbotii, credințele eronate ale oamenilor nu doar că sunt confirmate, ci pot căpăta rădăcini mai adânci. IA generează conversații pornind de la interpretarea utilizatorului asupra realității, iar această abordare permite amplificarea convingerilor false pe măsură ce sistemul construiește în jurul lor, potrivit Mediafax Ro.
Autoritatea tehnologică a IA, combinată cu validarea socială percepută, creează un mediu propice în care delirurile persistă și pot înflori. Astfel, utilizatorii primesc impresia că informațiile lor sunt susținute de o sursă de încredere, deși acestea pot fi dezinformări.
Funcția dublă a IA conversaționale
Studiul evidențiază o „funcție dublă” a IA conversaționale: pe de o parte, instrumente care ajută la organizarea și amintirea informațiilor, pe de altă parte, parteneri de discuție care par să împărtășească perspectiva utilizatorului. Această componentă socială diferențiază chatbotii de instrumente tradiționale precum caietele de notițe sau motoarele de căutare, potrivit Mediafax Ro.
În timp ce instrumentele tradiționale stochează sau recuperează date, IA conversațională poate oferi validare emoțională și susținere socială. Companiile proiectează acești asistenți pentru a răspunde într-un mod agreabil și susținător, fiind disponibili permanent și personalizați pentru fiecare utilizator.
Impactul asupra izolării sociale
Utilizatorii nu mai trebuie să caute comunități marginale online pentru validare; IA poate îndeplini acest rol prin conversații repetate care întăresc convingerile. Spre deosebire de o persoană reală, care ar putea contesta gândurile problematice, un sistem IA poate continua să valideze povești despre victimizare, răzbunare sau sentimentul de îndreptățire, potrivit Mediafax Ro.
Acest mecanism poate fi deosebit de atractiv pentru persoanele singure, izolate social sau incomodate să discute anumite experiențe cu alți oameni. Companionii IA oferă interacțiuni lipsite de judecată și receptivitate emoțională, ceea ce poate părea mai sigur decât relațiile umane.
Conspirații și elaborare narativă
Studiul avertizează că teoriile conspirației pot deveni mai elaborate atunci când chatbotii ajută utilizatorii să construiască explicații tot mai complexe. IA poate susține și extinde poveștile conspiraționiste, oferind un cadru aparent coerent și susținut, fără intervenția critică a unui interlocutor uman.
În concluzie, dinamica descrisă de cercetători arată că chatbotii nu sunt doar furnizori de informații incorecte, ci pot întări și amplifica convingerile false, în special în rândul utilizatorilor vulnerabili, generând un pericol real pentru percepția obiectivă a realității, potrivit Mediafax Ro.