Sam Altman cere mai multă prudență în cursa AI
Șeful OpenAI, Sam Altman, susține că dezvoltarea inteligenței artificiale avansate trebuie însoțită de reguli mai clare și de mecanisme independente de verificare a siguranței. Declarațiile sale vin după apelul făcut de Dario Amodei, CEO-ul Anthropic, pentru temperarea ritmului în care industria dezvoltă sisteme AI tot mai puternice.
Altman susține reguli comune pentru cele mai avansate sisteme
Sam Altman consideră că marile companii americane care dezvoltă modele de inteligență artificială trebuie să ofere publicului mai multe garanții privind modul în care gestionează riscurile.
Potrivit acestuia, ar fi necesar un cadru federal care să stabilească cerințe unitare de siguranță pentru cele mai capabile sisteme AI. În opinia șefului OpenAI, existența unor reguli comune ar putea reduce diferențele dintre politicile de securitate adoptate de companiile care concurează pentru supremație tehnologică.
Altman susține că industria nu ar trebui să aștepte adoptarea unor noi legi pentru a începe să introducă astfel de măsuri.
Audituri independente și standarde de securitate
Una dintre ideile susținute de liderul OpenAI este folosirea unor evaluatori independenți, care să poată analiza modul în care dezvoltatorii identifică și gestionează riscurile asociate modelelor avansate.
În paralel, companiile ar trebui să lucreze la standarde comune privind monitorizarea sistemelor, evaluarea capabilităților și măsurile de siguranță.
Propunerea vine în aceeași direcție cu mesajul transmis de Dario Amodei, șeful Anthropic, care a cerut industriei să reducă ritmul dezvoltării și să introducă mecanisme mai stricte de control.
Apelul a primit sprijin și din partea unor figuri importante din sectorul tehnologic, printre care Elon Musk și Demis Hassabis.
OpenAI își extinde evaluările înaintea antrenării modelelor
Altman a explicat că OpenAI încearcă deja să introducă evaluări de siguranță într-o etapă mai timpurie a dezvoltării modelelor.
Compania analizează riscurile înaintea unor sesiuni de antrenare despre care estimează că ar putea produce creșteri importante ale capacităților sistemelor. Aceste verificări se adaugă evaluărilor efectuate înainte de lansarea unui model.
Schimbarea este legată de evoluția rapidă a sistemelor AI, care au devenit capabile să îndeplinească sarcini din ce în ce mai complexe și, în anumite situații, să opereze cu un grad mai ridicat de autonomie.
Competiția dintre companii, o sursă suplimentară de presiune
Una dintre principalele probleme identificate de Altman este presiunea competitivă exercitată asupra dezvoltatorilor de AI.
Companiile se află într-o cursă pentru dezvoltarea unor sisteme mai puternice, iar avantajul tehnologic poate avea consecințe economice și strategice importante. În acest context, există riscul ca viteza de dezvoltare să ajungă să primeze în fața testării și monitorizării.
Mesajul lui Altman este că această competiție nu ar trebui să determine companiile să accepte riscuri pe care, în alte condiții, le-ar considera inacceptabile.
De ce s-a schimbat abordarea privind siguranța AI
Politicile de securitate adoptate de companiile din domeniu au fost concepute inițial în jurul riscurilor apărute după lansarea unui model.
Între timp, capacitățile sistemelor au crescut, iar procesul de dezvoltare și antrenare poate produce modele cu aptitudini semnificativ diferite de cele ale generațiilor precedente. Din acest motiv, verificarea riscurilor trebuie făcută, în opinia lui Altman, pe parcursul întregului ciclu de dezvoltare.
El nu susține oprirea progresului tehnologic, ci un ritm de dezvoltare care să permită industriei să construiască în paralel instrumentele necesare pentru control și siguranță.
Dezbaterea privind reglementarea intră într-o nouă etapă
Pozițiile exprimate de liderii marilor companii AI arată că discuția privind securitatea inteligenței artificiale nu mai este limitată la momentul lansării unui produs.
Evaluarea independentă, monitorizarea continuă, transparența și existența unor standarde comune devin teme centrale într-un sector în care performanța modelelor avansează rapid.
Pentru autorități, provocarea este să găsească un echilibru între stimularea inovației și reducerea riscurilor. Pentru companii, presiunea este dublă: să rămână competitive și, în același timp, să demonstreze că dezvoltarea unor sisteme tot mai autonome nu depășește capacitatea de a le controla.
Surse
Warning: Attempt to read property "ID" on bool in /home/fluxinfo/monitorulzileimaramures.ro/wp-content/themes/jannah/framework/functions/post-actions.php on line 114
