Pionierii domeniului inteligenței artificiale, recunoscuți la nivel global sub apelativul „nașii AI”, avertizează autoritățile politice cu privire la posibilitatea unei „explozii a inteligenței”. Această evoluție tehnologică ar putea comprima în doar câteva luni progrese care, în condiții normale, ar necesita ani de cercetare. Raportul semnat de experți precum Geoffrey Hinton și Yoshua Bengio subliniază necesitatea unei intervenții guvernamentale imediate pentru a preveni pierderea controlului asupra sistemelor de AI.
Documentul, intitulat „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?”, este susținut de peste 20 de specialiști. Printre semnatari se numără Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetătorul-șef de la OpenAI. Autorii se concentrează pe fenomenul de „autoîmbunătățire recursivă”, prin care sistemele de AI ar putea să își optimizeze singure capacitățile. Acest proces de cercetare și dezvoltare automatizată ar putea permite unui singur dezvoltator să coordoneze o forță de muncă echivalentă cu milioane de cercetători umani.
Riscurile identificate de experți includ apariția unor amenințări biologice și cibernetice care s-ar putea dezvolta mai rapid decât orice măsură de contracarare. De asemenea, pe măsură ce rolul oamenilor în dezvoltarea tehnologiei scade, controlul asupra sistemelor ar putea fi erodat definitiv. Un alt scenariu critic vizează utilizarea acestui avantaj tehnologic de către state pentru a obține un domeniu de superioritate decisivă în spațiul cibernetic, afectând echilibrul puterii între guverne și companii.
Pentru a gestiona aceste pericole, autorii propun implementarea unor rapoarte de progres transparente și integrarea unor auditori independenți în cadrul companiilor de tehnologie. Se recomandă, de asemenea, găsirea unor metode de a limita ritmul de dezvoltare și colaborarea cu centrele de date pentru a permite suspendarea proiectelor de cercetare. Un alt punct esențial este asigurarea izolării sistemelor automatizate, astfel încât acestea să nu poată scăpa de sub supravegherea umană directă.
Situația actuală indică faptul că tehnologia se apropie de un prag critic de autonomie. Anthropic a raportat că AI produce deja 80% din propriul său cod-sursă, în timp ce OpenAI utilizează agenți AI autonomi pentru antrenarea modelelor noi. Deși câștigurile de productivitate nu au declanșat încă explozia, noile sisteme se apropie de acest punct. Estimările sugerează că proiectele de cercetare care necesită luni de muncă ar putea fi complet automatizate până în anul 2028.
Evoluția rapidă a tehnologiilor de calcul și a modelelor de limbaj mari a pus în prim-plan dezbaterile privind siguranța algoritmilor. În contextul global, reglementările privind inteligența artificială sunt în continuă formare, încercând să echilibreze impulsul de inovare economică cu necesitatea de a proteja infrastructurile critice și securitatea națională împotriva riscurilor emergente cauzate de automatizarea avansată.