Anthropic reduce cu 99% datele extrase din modelele IA
Compania americană Anthropic a implementat noi măsuri de securitate pentru a proteja modelele sale de inteligență artificială Claude, reducând semnificativ cantitatea de date extrase prin atacuri de tip „distilare”.
Anthropic a anunțat că noile măsuri de protecție au redus cu aproximativ 90% până la 99% cantitatea de date extrase din modelele sale IA prin atacuri menite să le copieze capacitățile. Aceste atacuri permit companiilor rivale să reproducă funcționalitățile unor modele IA avansate într-un timp mai scurt și la costuri mai reduse.
Compania a blocat zeci de mii de conturi asociate campaniilor de distilare, pe fondul rivalității tehnologice dintre SUA și China. Anthropic a subliniat că numărul de tokenuri asociate raționamentului extrase de atacatori este acum „de 10 până la 100 de ori mai mic decât înainte”.
Printre măsurile introduse se numără și limitarea accesului la procesele de raționament ale Claude, ceea ce reduce semnificativ posibilitatea ca rivalii să extragă informații pentru a-și dezvolta propriile sisteme. De asemenea, compania a implementat soluții care îngreunează utilizarea rețelelor de servere intermediare pentru a accesa informațiile protejate.
Anthropic a indicat startupul chinez Z.ai, cunoscut și sub numele de Zhipu, ca exemplu de companie care ar fi încercat să copieze capacitățile Claude în timpul dezvoltării modelului GLM-5.3. Compania avertizează că astfel de practici pot reprezenta riscuri pentru siguranță și securitatea națională.
Descoperă mai multe la Radio Clasic
Abonează-te ca să primești ultimele articole prin email.
