OpenAI avertizează asupra unei lumi în care mașinile ar putea deveni mai inteligente decât oamenii
Șeful cercetării OpenAI, Jakub Pachocki, avertizează că dezvoltarea accelerată a inteligenței artificiale ar putea transforma radical societatea, iar industria nu dispune încă de suficiente mecanisme de siguranță pentru a ține pasul cu progresul tehnologic.
Într-un articol publicat pe 6 septembrie pe blogul OpenAI, intitulat „An Alien Mind”, Jakub Pachocki susține că omenirea intră într-o perioadă în care sistemele de inteligență artificială ar putea ajunge să depășească oamenii în tot mai multe domenii.
Cercetătorul afirmă că prioritatea nu ar trebui să fie doar dezvoltarea unor modele mai performante, ci și asigurarea faptului că tranziția către o lume dominată de sisteme AI are un rezultat favorabil pentru societate.
„Ne confruntăm cu o tranziție către o lume cu mașini incredibil de inteligente”, scrie Pachocki, care consideră că este esențial ca oamenii să-și păstreze controlul asupra deciziilor importante și asupra viitorului.
„Nicio companie nu a rezolvat încă problema alignment-ului”
Unul dintre cele mai importante avertismente ale cercetătorului se referă la problema „alignment-ului” – procesul prin care comportamentul și obiectivele unui sistem AI sunt menținute în concordanță cu intențiile și valorile umane.
Pachocki afirmă că, în opinia sa, niciun laborator de inteligență artificială nu a rezolvat încă suficient de bine problemele de aliniere și monitorizare pentru a putea continua, pentru o perioadă îndelungată, dezvoltarea la viteza maximă.
El susține că ar trebui să devină mai frecvente „încetinirile voluntare” ale dezvoltării, până când vor exista standarde comune de siguranță. Cercetătorul pledează, de asemenea, pentru o coordonare internațională mai puternică în privința dezvoltării viitoarelor sisteme AI.
Avertismentul vine după lansarea GPT-6 Astra
Mesajul lui Pachocki apare la scurt timp după lansarea GPT-6 Astra, prezentat de OpenAI drept cel mai capabil model al companiei.
Potrivit OpenAI, Astra aduce progrese în raționament, programare, cercetare, utilizarea computerului și realizarea unor sarcini complexe în mai mulți pași. Compania afirmă că modelul poate efectua autonom activități precum cercetarea online, lucrul cu documente și software și analiza unor date științifice.
În același timp, OpenAI spune că GPT-6 Astra reprezintă un salt important în capabilitățile de securitate cibernetică. Modelul a atins nivelul „Critical” în cadrul Preparedness Framework al companiei, ceea ce înseamnă că, în anumite condiții și cu instrumentele necesare, poate identifica vulnerabilități de securitate necunoscute anterior și poate dezvolta metode de exploatare.
Pentru a limita aceste riscuri, OpenAI afirmă că a introdus măsuri suplimentare de monitorizare și protecție, inclusiv mecanisme de detectare a unor posibile comportamente nealiniate.
Riscul nu este doar tehnologic
În articolul său, Pachocki atrage atenția și asupra consecințelor sociale și economice ale progresului AI. El avertizează asupra posibilității unei concentrări extreme a puterii, în condițiile în care activități care în trecut necesitau mii de specialiști ar putea fi realizate de un număr redus de persoane care operează sisteme AI foarte puternice.
Șeful cercetării OpenAI susține că dezvoltarea tehnologiei trebuie însoțită de reguli clare, standarde de siguranță și mecanisme independente de verificare.
Propunerea privind încetinirea voluntară a dezvoltării reflectă o preocupare mai largă din industria AI: viteza cu care cresc capabilitățile modelelor ar putea depăși capacitatea companiilor și a autorităților de a evalua și controla riscurile.
Ce urmează
Pachocki consideră că guvernele ar trebui să trateze cooperarea internațională privind dezvoltarea viitoarelor sisteme AI drept o prioritate. În viziunea sa, ar trebui stabilite praguri minime de siguranță care să fie respectate înainte ca laboratoarele să poată continua dezvoltarea și implementarea unor modele din ce în ce mai puternice.
În paralel, OpenAI susține că va continua să investească în sisteme defensive, monitorizare și cercetarea privind alinierea AI.
Avertismentul lui Pachocki scoate astfel în evidență una dintre marile contradicții ale actualei curse pentru inteligență artificială: companiile încearcă să construiască sisteme tot mai capabile, în timp ce cercetătorii recunosc că mecanismele necesare pentru a controla aceste sisteme trebuie să evolueze în același ritm.
Surse
Warning: Attempt to read property "ID" on bool in /home/fluxinfo/monitorulzileimaramures.ro/wp-content/themes/jannah/framework/functions/post-actions.php on line 114
