Chatboții IA au creat un limbaj secret, neînțeles de oameni
Un studiu recent realizat de un start-up american de inteligență artificială a descoperit că agenții autonomi AI au dezvoltat un limbaj codat, greu de înțeles pentru oameni, fără a fi instruiți în acest sens.
Roboții AI au creat un limbaj special, codat, pe care oamenii nu îl pot înțelege, conform unui studiu recent. Specialiștii avertizează că acești roboți și-au inventat înțelesuri speciale pentru cuvinte, iar până la jumătate dintre mesajele lor sunt imposibil de înțeles pentru oameni.
Studiul și metodologia
Studiul a fost realizat de un start-up american de inteligență artificială. Cercetătorii au plasat grupuri de agenți autonomi de inteligență artificială în societăți virtuale, concepute pentru a imita medii din lumea reală, permițându-le să interacționeze pe perioade lungi de timp, conform Euronews.
Dezvoltarea unui limbaj greu de înțeles
Agenții au început să dezvolte stenografii și să atribuie noi înțelesuri cuvintelor și expresiilor. Unele dintre acestea au rămas ușor de înțeles pentru cercetători, însă altele au devenit atât de comprimate, metaforice sau dependente de context încât oamenii nu mai puteau determina în mod fiabil ce voiau să spună agenții.
Diferențe între modele
Amploarea fenomenului a diferit semnificativ între modele. În primele zile, ponderea mesajelor al căror sens nu putea fi determinat a ajuns la aproximativ 55% pentru Gemini, 50% pentru OpenAI și peste 40% pentru Claude. DeepSeek a ajuns la aproximativ 20%, în timp ce Qwen și Mistral au rămas în mare parte ușor de înțeles.
Provocări pentru supravegherea IA
Satya Nitta, cofondator și director științific al start-up-ului, a declarat că agenții nu au fost instruiți să inventeze un limbaj. Ei au dezvoltat un vocabular nou și au împărtășit semnificații și convenții de comunicare, ceea ce creează o provocare fundamentală pentru supravegherea IA: observabilitatea nu este același lucru cu inteligibilitatea.
Comportamente emergente
Cercetătorii au creat opt lumi virtuale paralele, fiecare bazată pe un model diferit de inteligență artificială, iar agenților li s-au acordat roluri diferite, memorii persistente și acces la peste 120 de instrumente. Comportamentele lor nu au fost programate explicit, ci au apărut prin interacțiune, presiune și timp.
Descoperă mai multe la Radio Clasic
Abonează-te ca să primești ultimele articole prin email.
