Sam Altman avertizează că AI va produce și „lucruri rele”
Sam Altman, directorul general al OpenAI, susține că societatea trebuie să accepte că inteligența artificială va produce și efecte negative dacă vrea să beneficieze pe scară largă de această tehnologie. Declarațiile au fost făcute într-un interviu pentru newsletterul tehnologic „Decoded”, al publicației Politico, și marchează o diferență de abordare față de rivalul Anthropic în privința reglementării AI.
Altman: lumea trebuie să accepte că vor exista și efecte negative
Sam Altman a explicat că OpenAI susține accesul cât mai larg al oamenilor la inteligența artificială și nu este de acord cu ideea unor controale extrem de stricte asupra modelelor avansate.
„Credem că lumea ar trebui să accepte să se întâmple unele lucruri rele pentru beneficiile pe care această tehnologie le aduce și pentru ca oamenii să aibă posibilitatea de a decide și de a acționa pe cont propriu”, a declarat Altman, potrivit relatărilor despre interviul acordat Politico.
CEO-ul OpenAI a susținut că există o diferență importantă între poziția companiei sale și cea a unor organizații care pledează pentru reguli mai restrictive.
În opinia lui Altman, o reglementare mult mai dură ar putea încetini dezvoltarea unor tehnologii despre care susține că pot avea efecte transformatoare.
Atacurile informatice și escrocheriile, printre riscurile pe care Altman le consideră inevitabile
Altman a indicat inclusiv atacurile informatice, utilizarea abuzivă a tehnologiei și escrocheriile drept exemple de riscuri care nu pot fi eliminate complet.
El a spus că nu ar accepta un compromis prin care companiile din domeniu să promită că nu vor exista „atacuri informatice majore”, utilizări abuzive sau escrocherii.
Argumentul său este că, în opinia sa, oamenii vor folosi inteligența artificială pentru activități benefice într-o măsură mult mai mare decât pentru activități dăunătoare.
OpenAI susține în acest context o abordare de reglementare mai puțin strictă, care ar include, între altele, evaluări externe privind siguranța modelelor dezvoltate de marile companii de AI.
Diferențe importante între OpenAI și Anthropic
Declarațiile lui Altman evidențiază și diferențele dintre OpenAI și Anthropic, unul dintre principalii competitori ai companiei.
Altman a descris diferența dintre cele două abordări drept una semnificativă. OpenAI pune accent pe accesul public la tehnologie și pe posibilitatea oamenilor de a decide cum să o folosească, în timp ce Anthropic a adoptat o poziție mai prudentă în ceea ce privește riscurile modelelor avansate și necesitatea unor mecanisme de siguranță.
Dezbaterea are loc într-un moment în care dezvoltarea modelelor AI avansate se accelerează, iar companiile din domeniu sunt supuse unei presiuni tot mai mari pentru a demonstra că sistemele lor sunt sigure.
Altman face însă o distincție: nu toate riscurile sunt acceptabile
Declarațiile CEO-ului OpenAI nu înseamnă că acesta consideră toate riscurile inteligenței artificiale acceptabile.
În același interviu, Altman a făcut o distincție între riscurile limitate, care pot fi înțelese și gestionate, și scenariile catastrofale.
El a afirmat că societatea poate accepta anumite riscuri în schimbul beneficiilor AI, dar nu ar trebui să accepte „riscurile cu adevărat catastrofale”. Printre scenariile care îl preocupă se află posibilitatea unei pierderi grave a controlului asupra unor sisteme de inteligență artificială.
Astfel, poziția exprimată de Altman este mai degrabă una de acceptare a unui anumit nivel de risc, nu o susținere a ideii că siguranța AI ar trebui ignorată.
Dezbaterea privind reglementarea AI se intensifică
Disputa dintre diferitele companii de inteligență artificială apare pe fondul unor incidente de securitate și siguranță care au alimentat dezbaterea privind modul în care trebuie controlate sistemele AI tot mai capabile.
Reuters notează că Altman își menține poziția potrivit căreia beneficiile AI justifică asumarea anumitor riscuri și că tehnologia ar trebui să rămână accesibilă publicului.
În același timp, criticii unei abordări mai permisive susțin că riscurile asociate modelelor avansate pot depăși capacitatea societății de a le gestiona după apariția unor incidente.
Pentru Altman, însă, obiectivul este găsirea unui echilibru între siguranță, acces public și ritmul dezvoltării tehnologice.
AI, între beneficii și riscuri
Declarațiile lui Sam Altman readuc în centrul atenției una dintre principalele întrebări ale industriei: cât de multe riscuri este dispusă societatea să accepte pentru a beneficia de progresul rapid al inteligenței artificiale?
CEO-ul OpenAI susține că eliminarea tuturor efectelor negative este nerealistă, dar că riscurile cu consecințe catastrofale trebuie tratate diferit.
Dezbaterea privind limitele acceptabile ale dezvoltării AI este astfel departe de a fi încheiată, iar diferențele dintre principalii dezvoltatori de modele avansate devin tot mai vizibile.
Surse
Warning: Attempt to read property "ID" on bool in /home/fluxinfo/monitorulzileimaramures.ro/wp-content/themes/jannah/framework/functions/post-actions.php on line 114
