Nașii AI avertizează despre o explozie a inteligenței
Doi dintre pionierii inteligenței artificiale moderne avertizează asupra unei posibile „explozii a inteligenței” care ar putea reprezenta cea mai semnificativă evoluție tehnologică din istorie.
Geoffrey Hinton și Yoshua Bengio, considerați „nașii” AI moderne, au publicat un raport în colaborare cu alți experți, îndemnând guvernele să acționeze înainte ca tehnologia să avanseze necontrolat. Raportul, intitulat „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării în domeniul IA ar declanșa o explozie a inteligenței”, avertizează asupra unei accelerări spectaculoase a progresului AI.
Autorii subliniază riscul ca inteligențele artificiale să se perfecționeze singure, fără intervenția umană, printr-un proces de „autoperfecționare recursivă”. Aceasta ar putea permite unui singur dezvoltator să coordoneze o forță de muncă echivalentă cu milioane de cercetători umani de top.
Raportul sugerează că automatizarea cercetării și dezvoltării în AI ar putea fi sursa unei explozii a inteligenței, deoarece sistemele de AI contribuie deja la îmbunătățirea propriei tehnologii. Autorii avertizează că o astfel de explozie ar putea amenința controlul uman asupra sistemelor de AI și ar putea eroda mecanismele de control al puterii.
Printre recomandările raportului se numără solicitarea unor rapoarte transparente privind progresele în AI, limitarea dezvoltării rapide a AI și pregătirea pentru adaptarea la o explozie a inteligenței. OpenAI și Anthropic au convenit să permită evaluarea independentă a modelelor lor, subliniind importanța siguranței în dezvoltarea AI.
Raportul recunoaște că efectele unei explozii a inteligenței sunt incerte, dar subliniază necesitatea pregătirii pentru scenarii în care sistemele AI ar putea depăși rapid experții umani și ar accelera progresul tehnologic. Autorii îndeamnă guvernele să ia în considerare politici care să abordeze potențialul unei astfel de explozii, inclusiv prin crearea unor planuri de intervenție în situații de urgență.
Descoperă mai multe la Radio Clasic
Abonează-te ca să primești ultimele articole prin email.
