Cercetătorii AI cer încetinirea dezvoltării din cauza riscurilor
Cercetătorii de la OpenAI și Anthropic solicită încetinirea dezvoltării inteligenței artificiale, avertizând asupra riscurilor catastrofale pe care le-ar putea genera sistemele avansate.
Tot mai mulți cercetători din domeniul inteligenței artificiale, inclusiv cei de la OpenAI și Anthropic, cer public încetinirea dezvoltării acestor tehnologii. Ei avertizează că sistemele avansate ar putea deveni capabile să-și accelereze singure dezvoltarea, generând riscuri catastrofale, inclusiv pierderea controlului asupra tehnologiei, potrivit CNBC.
Valul de avertismente a crescut după demisia cercetătorului Jacob Coxon de la Anthropic, care a acuzat companiile că „se joacă cu viețile noastre”. El a afirmat că există riscul ca AI să devină o amenințare existențială până la sfârșitul deceniului. Evan Hubinger, responsabil pentru alinierea AI la Anthropic, estimează o probabilitate de peste 10% pentru un astfel de scenariu.
Julie Steele, membră a echipei de siguranță de la OpenAI, a susținut public apelul lui Coxon, iar Samuel Marks, cercetător la Anthropic, a subliniat că dezvoltatorii AI sunt conștienți de riscurile pe care le-ar putea provoca tehnologia lor.
Teama de auto-îmbunătățire recursivă
În centrul îngrijorărilor se află conceptul de auto-îmbunătățire recursivă (RSI), care presupune că sistemele AI avansate ar putea contribui la îmbunătățirea propriilor capacități. Jasmine Wang, cercetătoare OpenAI, a avertizat asupra pericolului de a avansa rapid către RSI, iar Anna Wang de la Anthropic a subliniat lipsa unui plan viabil pentru gestionarea riscurilor asociate.
Jakub Pachocki, cercetător-șef la OpenAI, a avertizat că sistemele viitoare ar putea face salturi semnificative de performanță și ar putea participa la propria dezvoltare, subliniind necesitatea unei prudențe extreme.
Avertismentele ajung la Washington
Temerile cercetătorilor au fost amplificate de incidente de securitate cibernetică recente. În iulie, 1.400 de cercetători AI au semnat o scrisoare deschisă cerând guvernului SUA să controleze ritmul dezvoltării sistemelor AI avansate. În Congres au fost propuse inițiative precum FRONTIER Act și Ban Artificial Superintelligence Act, care urmăresc reglementarea dezvoltării AI.
Controversa ar putea afecta planurile Anthropic de listare la bursă, iar presiunea politică este în creștere. Reprezentanta democrată Lori Trahan a declarat că este timpul ca Congresul să acționeze.
Promisiunea fondatorului OpenAI
Sam Altman, CEO-ul OpenAI, a declarat că ar putea încetini dezvoltarea sistemelor AI avansate și speră ca și alte companii să facă același lucru. El a discutat cu oficiali ai Casei Albe despre necesitatea moderării ritmului de dezvoltare a inteligenței artificiale.
Reguli internaționale
OpenAI și Anthropic susțin că se apropie momentul în care AI ar putea să-și proiecteze singură succesorul, dar afirmă că nu pot încetini de unele singure fără a lăsa teren liber concurenței. OpenAI dorește reguli internaționale pentru a stabili când și cum ar trebui încetinită dezvoltarea, iar Anthropic solicită un mecanism legal și verificabil pentru o încetinire coordonată.
Descoperă mai multe la Radio Clasic
Abonează-te ca să primești ultimele articole prin email.
