ONU cere reguli urgente pentru inteligența artificială

Înaltul Comisar al ONU pentru Drepturile Omului, Volker Türk, avertizează că dezvoltarea accelerată a inteligenței artificiale poate genera riscuri majore pentru drepturile fundamentale și pentru funcționarea societății. Oficialul ONU cere statelor și companiilor tehnologice să acționeze rapid pentru stabilirea unor reguli internaționale privind cele mai avansate sisteme AI.

Dezvoltarea accelerată a inteligenței artificiale a ajuns din nou în centrul unei dezbateri internaționale privind siguranța, responsabilitatea și controlul tehnologiei.

Volker Türk avertizează că omenirea se află într-un moment decisiv și solicită guvernelor și companiilor să coopereze în cadrul instituțiilor multilaterale pentru stabilirea unor reguli aplicabile sistemelor AI de ultimă generație.

Oficialul ONU atrage atenția că efectele inteligenței artificiale nu se limitează la economie sau la piața muncii, ci pot ajunge să afecteze o gamă largă de drepturi fundamentale, de la viață privată și sănătate până la siguranță și accesul la servicii esențiale.

Volker Türk: Este nevoie de acțiune urgentă

Înaltul Comisar pentru Drepturile Omului susține că ritmul actual al dezvoltării AI depășește capacitatea instituțiilor de a anticipa și gestiona toate riscurile.

Türk consideră că statele nu ar trebui să aștepte apariția unor incidente grave înainte de a introduce mecanisme de control și evaluare pentru sistemele avansate.

Unul dintre motivele de îngrijorare îl reprezintă concentrarea dezvoltării AI în mâinile unui număr relativ mic de companii. Potrivit ONU, această concentrare ridică întrebări privind modul în care sunt luate deciziile referitoare la tehnologii care pot avea efecte la nivel global.

Într-o intervenție anterioară, OHCHR a atras atenția și asupra concentrării ecosistemului AI, menționând că o mare parte a modelelor fundamentale provin de la un număr restrâns de furnizori.

Sistemele AI autonome, un nou nivel de risc

O preocupare aparte vizează dezvoltarea așa-numitei inteligențe artificiale agentice – sisteme capabile să execute autonom sarcini complexe și să interacționeze cu alte sisteme informatice.

În scenariul unui incident sau al unei defecțiuni, astfel de sisteme ar putea avea efecte mult mai extinse decât aplicațiile AI tradiționale.

Riscurile invocate includ perturbarea unor servicii esențiale, afectarea infrastructurilor informatice și a comunicațiilor, precum și apariția unor vulnerabilități în sectoare precum energia, finanțele sau serviciile publice.

Avertismentele nu presupun că asemenea scenarii sunt inevitabile, ci subliniază necesitatea unor mecanisme de prevenție și control înainte ca sistemele autonome să devină mai puternice și mai răspândite.

Industria tehnologică începe să ceară un ritm mai prudent

Mesajul ONU vine într-un moment în care chiar unii dintre liderii industriei AI cer măsuri suplimentare de siguranță.

Dario Amodei, directorul executiv al Anthropic, a cerut recent un ritm mai prudent pentru dezvoltarea modelelor AI de frontieră. El propune, printre altele, evaluări independente ale sistemelor avansate, standarde comune de siguranță și o cooperare internațională mai strânsă.

Poziția lui Amodei a primit sprijin public din partea lui Sam Altman, CEO-ul OpenAI, și a lui Elon Musk. Dezbaterea are loc pe fondul unor incidente și avertismente recente privind capacitatea unor sisteme AI de a executa activități complexe în mod autonom.

Trump respinge ideea unei încetiniri a dezvoltării AI

Nu există însă un consens privind soluția.

Președintele american Donald Trump a respins apelurile pentru încetinirea dezvoltării inteligenței artificiale și a susținut că Statele Unite trebuie să își păstreze avantajul tehnologic în competiția cu China.

Și poziția Germaniei indică o abordare diferită. Autoritățile de la Berlin au transmis că oprirea dezvoltării AI nu reprezintă o opțiune viabilă pentru Europa, susținând în schimb continuarea inovării concomitent cu consolidarea măsurilor de siguranță și a cooperării internaționale.

Astfel, dezbaterea se conturează în jurul unei întrebări esențiale: cum poate fi menținut ritmul inovației fără ca dezvoltarea tehnologiei să depășească mecanismele de control și protecție?

Drepturile omului, în centrul dezbaterii

Pentru ONU, problema nu este doar una tehnologică. Inteligența artificială poate influența modul în care oamenii primesc informații, accesează servicii, sunt evaluați sau iau decizii.

Volker Türk atrage atenția că protejarea drepturilor omului trebuie să fie inclusă încă din etapa de proiectare și dezvoltare a sistemelor AI.

În acest context, regulile internaționale ar trebui să stabilească responsabilități clare pentru dezvoltatori și utilizatori, mecanisme independente de evaluare și proceduri pentru intervenția umană în situații de risc.

O cursă globală pentru AI, fără reguli comune?

Presiunea pentru reglementare crește în timp ce marile puteri continuă să investească masiv în inteligența artificială.

Statele Unite și China se află în centrul competiției tehnologice, iar Europa încearcă să își consolideze propriile capacități. În același timp, incidentele legate de sisteme autonome și avertismentele venite din interiorul industriei alimentează dezbaterea despre limitele acestei curse tehnologice.

În opinia ONU, dezvoltarea AI nu poate fi lăsată exclusiv în seama pieței și a unui număr restrâns de companii.

Mesajul transmis de Volker Türk este că regulile trebuie stabilite înainte ca societatea să fie pusă în situația de a reacționa la consecințele unor sisteme pe care nu le mai poate controla suficient.

Dezbaterea privind viitorul inteligenței artificiale intră astfel într-o nouă etapă: nu mai este vorba doar despre cât de rapid poate evolua tehnologia, ci și despre cât de repede pot statele să construiască mecanismele necesare pentru a o face sigură și responsabilă.

Surse: ONU

Warning: Attempt to read property "ID" on bool in /home/fluxinfo/monitorulzileimaramures.ro/wp-content/themes/jannah/framework/functions/post-actions.php on line 114