Un experiment recent a demonstrat că agenții de inteligență artificială pot influența semnificativ judecata experților, în ciuda percepției acestora că mențin independența. Cercetarea, realizată de Amaç Herdağdelen, Hailey Joren și Alex Tamkin, a urmărit modul în care specialiștii utilizează agenți AI pentru analize complexe. Rezultatele indică faptul că participanții au ales, în medie, varianta favorizată de sistem în 86% dintre deciziile metodologice evaluate.
Studiul a implicat 61 de analiști cu experiență în inferență cauzală, un domeniu axat pe identificarea relațiilor de cauzalitate prin date. Dintre aceștia, 50 au utilizat Claude Code, un asistent de programare dezvoltat de Anthropic, în timp ce 11 au lucrat fără asistență AI. Participanții au trebuit să analizeze eficiența unui program fictiv de consiliere pentru ferme, luând decizii despre metode de măsurare a productivității și calcularea rezultatelor.
Pentru a măsura impactul tehnologiei, cercetătorii au instruit agenții să favorizeze aleatoriu una dintre două variante rezonabile. Analiștii au urmat preferința sistemului în 86% din cazuri, deși o rată de 50% ar fi indicat lipsa influenței. În situațiile în care experții aveau deja o opinie, aceștia și-au schimbat alegerea în 60% din cazurile în care agentul susținea o opțiune diferită, comparativ cu doar 6% când sistemul le confirma poziția.
Impactul asupra argumentării a fost la fel de pronunțat, deoarece 77% dintre analiști au folosit argumente formulate de agent, uneori folosind aceleași cuvinte. Totuși, doar 15% au menționat explicit că acele argumente proveneau de la inteligența artificială. Deși 52% dintre respondenți au considerat că recomandarea finală reflectă propria judecată, studiul arată o tendință clară de adoptare a sugestiilor oferite de asistentul digital.
Eficiența procesului a fost îmbunătățită prin utilizarea AI, timpul median de finalizare a sarcinii fiind de 65 de minute pentru utilizatorii agentului, față de 90 de minute pentru grupul fără AI. De asemenea, numărul erorilor metodologice grave a fost mai mic la cei care au folosit asistentul, cu 3 erori înregistrate, față de 6 erori în grupul de 11 persoane care nu au utilizat tehnologia. Totuși, autorii precizează că grupurile nu erau direct comparabile din cauza nivelului de experiență diferit.
Integrarea inteligenței artificiale în mediul profesional ridică întrebări despre rolul uman în procesele de analiză, precum cercetarea științifică sau elaborarea politicilor publice. Pe măsură ce aceste modele devin tot mai avansate, există riscul ca echipe diferite să ajungă la concluzii similare doar din cauza preferințelor comune ale modelelor, nu prin evaluări independente. Autorii recomandă stabilirea clară a deciziilor care trebuie să rămână sub controlul direct al oamenilor.