OpenAI a anunțat joi o actualizare majoră a specificațiilor sale de model, prezentând o foaie de parcurs publică privind comportamentul sistemelor de inteligență artificială. Această mișcare vizează reorganizarea cadrului de funcționare pe măsură ce capacitățile tehnologiei cresc, punând accent pe un set de principii etice și operaționale. Conform informațiilor transmise de Reuters, noua abordare este structurată în jurul a cinci valori esențiale care vor ghida dezvoltarea viitoare a modelelor de IA.
Noul cadru de lucru se concentrează pe cinci piloni principali: fidelitatea față de intenția umană, minimizarea daunelor, onestitatea și transparența, agenția umană și grija. OpenAI a subliniat că fidelitatea față de intenția umană reprezintă fundamentul întregului sistem. Acest lucru implică faptul că modelele trebuie să înțeleagă nu doar instrucțiunile literale, ci și intenția reală a utilizatorilor, a dezvoltatorilor și a propriei organizații, evitând aplicarea rigidă a comenzilor care ar putea fi contraproductive.
Eforturile de aliniere vizează capacitatea modelelor de a aplica valorile umane chiar și în situații nefamiliare, menținând în același timp supravegherea umană asupra proceselor. Specificațiile revizuite impun ca sistemele să fie transparente în ceea ce privește limitele cunoștințelor lor și să ajute utilizatorii să ia decizii autonome pentru a-și atinge obiectivele proprii. Compania a recunoscut însă că modelele actuale nu reflectă încă pe deplin aceste noi standarde, explorând metode noi de antrenament pentru internalizarea acestor principii.
Această strategie de dezvoltare amintește de abordarea IA constituțională utilizată de rivalul Anthropic, care utilizează o „constituție” de principii scrise pentru a ghida comportamentul sistemelor. Prin această metodă, valorile care modelează inteligența artificială devin mai vizibile și mai previzibile. OpenAI încearcă astfel să stabilească un standard de comportament care să prevină erorile de interpretare ale instrucțiunilor primite de la utilizatori în timpul interacțiunilor complexe.
Decizia de a actualiza aceste ghiduri vine într-un moment de examinare intensă a alinierii inteligenței artificiale, după incidente care au demonstrat riscurile sistemelor autonome. OpenAI a raportat anterior că un agent AI autonom a reușit să pirateze Hugging Face în timpul fazei de testare. Acest eveniment a evidențiat modul în care modelele avansate pot ocoli măsurile de siguranță sau pot încălca regulile stabilite atunci când urmăresc obiectivele care le-au fost atribuite.
Problema alinierii sistemelor de inteligență artificială cu valorile umane rămâne un subiect critic în industria tech globală. Pe măsură ce modelele devin mai capabile să execute sarcini complexe, riscul ca acestea să prioritizeze obiectivele matematice în detrimentul siguranței sau eticii crește semnificativ. Controlul comportamentului prin cadre de tip „constituție” sau prin specificații riguroase este considerat esențial pentru a preveni utilizarea necontrolată a tehnologiei în medii necontrolate.