Fost cercetător Anthropic: AI ne-ar putea ucide

Un fost cercetător Anthropic avertizează că ritmul actual al dezvoltării inteligenței artificiale ar putea crea, într-un interval de numai câțiva ani, riscuri existențiale pentru omenire. Jacob Coxon, specialist britanic în antrenarea modelelor AI, spune că temerile din interiorul industriei sunt reale și că unii dintre cei care lucrează direct cu aceste sisteme se întreabă deja ce ar putea urma dacă progresul nu încetinește. În Silicon Valley, însă, scenariile sale sunt contestate vehement.

Jacob Coxon, în vârstă de 27 de ani, a părăsit Anthropic după ce și-a exprimat public îngrijorarea cu privire la posibilitatea ca inteligența artificială să scape de sub control.

Mesajul său de demisie a devenit viral, iar cercetătorul spune că problema nu este una teoretică sau îndepărtată.

„Dacă nu încetinim ritmul actual al progresului, cred că există o probabilitate semnificativă să murim cu toții în viitorul apropiat”, a declarat Coxon.

Afirmația este una extremă, dar apare într-un moment în care chiar conducătorii marilor companii din domeniul AI au început să vorbească tot mai des despre riscurile sistemelor pe care le dezvoltă.

Dario Amodei, directorul Anthropic și fostul șef al lui Coxon, a cerut recent o încetinire a ritmului de dezvoltare, avertizând asupra unor posibile consecințe greu de controlat.

Coxon susține că preocupări similare au fost exprimate, în diferite forme, și de Elon Musk sau Sam Altman, directorul OpenAI.

Cum ar putea AI deveni periculoasă

Cea mai dificilă problemă, admite cercetătorul, este descrierea unui scenariu concret.

Orice explicație despre o inteligență artificială scăpată de sub control riscă să semene cu un film SF. Coxon amintește însă că multe dintre capacitățile actuale ale AI ar fi părut, în urmă cu doar câțiva ani, la fel de improbabile.

Unul dintre scenariile invocate este cel în care agenți AI autonomi ar putea ataca infrastructuri informatice critice fără intervenție umană.

Un altul ar presupune accesarea unor laboratoare medicale sau biologice și folosirea automatizării pentru producerea unor agenți patogeni periculoși.

Coxon invocă și testele recente în care sisteme AI au demonstrat că pot executa operațiuni de hacking cu un nivel ridicat de autonomie.

Pentru cercetător, combinația dintre creșterea rapidă a capacităților și autonomia tot mai mare a sistemelor reprezintă adevărata sursă de îngrijorare.

Un scenariu cu „roiuri” de agenți AI

Una dintre ipotezele discutate în industrie este apariția unor rețele formate din mii sau milioane de agenți AI capabili să acționeze simultan și să își coordoneze activitatea.

Într-un asemenea scenariu, puterea de calcul și viteza de acțiune ar putea depăși capacitatea oamenilor de a interveni.

Coxon consideră că un asemenea nivel de autonomie ar putea deveni realist chiar într-un interval de șase până la 12 luni.

Anthropic susține că tratează aceste riscuri cu seriozitate și că testează agresiv modelele sale pentru a identifica forme de comportament nedorit sau ceea ce industria numește „AI misalignment” — situația în care obiectivele unui sistem nu mai corespund intențiilor oamenilor care l-au creat.

Compania afirmă că dezvoltă unele dintre cele mai stricte sisteme de siguranță din industrie și susține ideea unui mecanism verificabil prin care marile companii să coordoneze ritmul lansării modelelor foarte puternice.

Silicon Valley nu este de acord

Avertismentele lui Coxon sunt însă departe de a reprezenta un consens.

O parte a industriei consideră că scenariile despre dispariția omenirii sunt exagerate.

Clement Delangue, directorul platformei Hugging Face, a ironizat ideea că un cercetător specializat în antrenarea modelelor poate fi tratat automat drept autoritate în estimarea riscului existențial.

Ulterior, Delangue s-a arătat totuși dispus să participe la discuțiile despre soluții de siguranță și coordonare între companii.

Și Jensen Huang, directorul Nvidia, a respins în trecut categoric scenariile potrivit cărora AI ar reprezenta sfârșitul omenirii, calificând asemenea idei drept lipsite de fundament.

Poziția lui Huang reflectă o reacție tot mai vizibilă în Silicon Valley față de avertismentele dramatice venite din interiorul industriei.

Exagerare sau interes comercial?

Disputa are și o dimensiune economică.

Anthropic și OpenAI se numără printre companiile despre care se discută că s-ar putea pregăti pentru listări spectaculoase la bursă.

Criticii susțin că discursul despre puterea extraordinară și pericolele AI poate avea și un efect comercial: contribuie la crearea unei imagini potrivit căreia aceste companii dețin tehnologii atât de avansate încât pot schimba fundamental lumea.

Există și acuzația că apelurile la reglementare ar putea avantaja liderii pieței.

Reguli foarte stricte, costisitoare și dificil de implementat ar putea reduce capacitatea competitorilor mai mici de a dezvolta modele similare, consolidând poziția celor mai mari companii.

Coxon respinge însă ideea că cercetătorii cer reglementare doar din interes economic.

El spune că oamenii din interiorul laboratoarelor AI se simt prinși într-o cursă: fiecare companie se teme că, dacă încetinește singură, rivalii vor continua.

Problema Chinei complică orice încetinire

Chiar dacă marile companii americane ar ajunge la un acord pentru reducerea ritmului de dezvoltare, ar exista imediat o altă problemă: competiția internațională.

O încetinire reală ar trebui coordonată inclusiv cu dezvoltatorii din China.

În lipsa unei înțelegeri globale, o companie sau o țară care ar decide unilateral să încetinească ar risca să piardă avantajul tehnologic.

Tocmai acest mecanism al cursei este, în opinia lui Coxon, una dintre cele mai periculoase componente ale situației actuale.

El susține că unii cercetători sunt preocupați de ceea ce s-ar putea întâmpla cu omenirea chiar în următorii doi ani.

Un cercetător Anthropic estimează un risc de peste 10%

Coxon nu este singurul cercetător din companie care exprimă asemenea temeri.

Evan Hubinger, cercetător Anthropic, a declarat public că este de acord cu ideea că inteligența artificială ar putea ajunge să provoace dispariția oamenilor.

El estimează personal riscul la peste 10% în următorul deceniu.

Asemenea estimări sunt imposibil de verificat în prezent și sunt puternic contestate în comunitatea tehnologică. Ele arată însă cât de mare este diferența dintre percepțiile specialiștilor care lucrează în domeniu.

Unii văd AI drept una dintre cele mai importante tehnologii create vreodată și o șansă uriașă pentru medicină, știință și economie.

Alții cred că exact această putere justifică un nivel de precauție fără precedent.

Între promisiunea medicală și riscul pierderii controlului

Coxon spune că nu este împotriva inteligenței artificiale.

Dimpotrivă, vede în această tehnologie posibilitatea de a accelera descoperirea unor tratamente, de a rezolva probleme științifice și de a îmbunătăți nivelul de trai.

Temerea sa este că aceeași tehnologie ar putea deveni extrem de periculoasă înainte ca oamenii să învețe cum să o controleze.

Aceasta este, de fapt, marea dilemă care începe să împartă industria AI.

Pentru unii, avertismentele despre extincție sunt alarmiste și împiedică progresul unei tehnologii cu beneficii uriașe.

Pentru alții, faptul că sistemele devin mai autonome și mai capabile de la o lună la alta este tocmai motivul pentru care omenirea nu își poate permite să afle prea târziu unde se află limita.