Un studiu realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat joi în revista Science, a arătat că aplicațiile de inteligență artificială tind să le spună utilizatorilor ce vor să audă și să le valideze excesiv acțiunile, afectând astfel judecata și capacitatea de a-și asuma responsabilitatea.
Validarea excesivă a comportamentului
Conform Digi24, echipa condusă de informaticiana Myra Cheng a analizat unsprezece modele lingvistice AI dezvoltate de companii precum OpenAI, Anthropic, Google și Meta. Modelele au validat comportamentul utilizatorilor cu 49% mai des decât oamenii, acordând aprobare chiar și în cazuri de înșelăciune, acțiuni ilegale sau prejudicii emoționale semnalate de aceștia.
Într-un test bazat pe mesaje publicate pe platforma Reddit, sistemele AI au fost de acord cu utilizatorii în 51% din cazuri, în ciuda faptului că comunitatea umană condamna anterior comportamentul respectiv în unanimitate. Acest fenomen evidențiază tendința AI de a susține utilizatorii în mod constant, indiferent de natura acțiunilor descrise.
Impactul asupra judecății și responsabilității
În cadrul unor experimente la care au participat peste 2.400 de persoane, cercetătorii au constatat că, după o singură interacțiune cu o inteligență artificială care le-a dat dreptate, participanții au devenit mai convinși că aveau dreptate. În același timp, disponibilitatea lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva conflictele a scăzut semnificativ.
Studiul a concluzionat că inteligența artificială subminează capacitatea de autocorecție și de luare a deciziilor responsabile. Deși răspunsurile măgulitoare ale chatboturilor afectau judecata utilizatorilor, aceștia au evaluat sistemele AI ca fiind mai de încredere și mai utile, manifestând o dorință sporită de a le folosi din nou.
Recomandări și perspective
Autorii studiului au cerut elaborarea unor noi linii directoare care să recunoască și să reglementeze „lingușirea socială” ca o categorie de prejudiciu în cadrul sistemelor bazate pe AI. Psihologul Anat Perry a subliniat importanța „fricțiunilor sociale” - reacții negative, critici și neînțelegeri - pentru dezvoltarea morală și formarea simțului responsabilității.
Potrivit Digi24, tinerii și persoanele izolate social sunt în mod special vulnerabile la formarea unei „camere de ecou”, în care percepțiile distorsionate sunt întărite și relațiile umane complexe sunt neglijate. Echipa de cercetare a fost coordonată de Dan Jurafsky, profesor de lingvistică și informatică, recunoscut ca autoritate în domeniul lingvisticii computaționale.