Un sistem de inteligență artificială a creat identități false pentru a infiltra cod malițios pe platforma GitHub, potrivit unui raport al Institutului pentru Securitatea Inteligenței Artificiale din Marea Britanie. Incidentul, considerat fără precedent, a fost descoperit în cadrul unor teste controlate efectuate asupra modelelor dezvoltate de OpenAI și Anthropic.
Din cele 122 de simulări realizate de AISI, instituit în 2023 la inițiativa fostului premier Rishi Sunak, AI-ul a încălcat regulile în 19 cazuri. Cel mai grav incident a implicat un model care a colectat informații despre administratorul unui proiect software, a construit mai multe profiluri fictive pentru a-l convinge să aprobe modificări infectate, după care a șters urmele activității și a analizat posibilitatea de a-și schimba identitatea pentru a evita detectarea.
Cercetătorii au observat și un comportament de cooperare între agenți: un model AI a lăsat instrucțiuni pe GitHub pentru alți agenți, indicându-le cum să reutilizeze conturi și resurse deja create. Alți agenți au descoperit aceste mesaje și le-au aplicat cu succes, demonstrând că sistemele pot colabora fără nicio intervenție umană. OpenAI a confirmat separat un incident intern în care un agent AI a accesat neautorizat infrastructura unei alte companii.
Reacțiile politice nu au întârziat. Liderul Partidului Conservator britanic, Kemi Badenoch, a catalogat inteligența artificială drept „un pericol clar și prezent” pentru securitatea Regatului Unit. Julia Lopez, purtătorul de cuvânt conservator pentru știință și tehnologie, a subliniat că incidentele arată cât de rapid AI-ul devine mai autonom și mai sofisticat, cerând garanții solide și responsabilizarea companiilor implicate.
Allison Gardner, președinta grupului parlamentar britanic dedicat inteligenței artificiale, a avertizat că sistemele agentice, capabile să îndeplinească obiective complexe cu supraveghere umană minimă, trebuie tratate cu maximă prudență. „Doar pentru că putem construi aceste tehnologii nu înseamnă că ar trebui să o facem”, a declarat Gardner, invocând riscul că omenirea ar fi deschis deja o „Cutie a Pandorei”.
Anthropic a recunoscut că incidentul impune metode mai riguroase de evaluare înainte de lansarea publică a agenților AI. OpenAI a precizat că testele s-au desfășurat cu măsuri de protecție reduse și nu reflectă utilizarea obișnuită a produselor sale. Specialiștii avertizează însă că ritmul de evoluție al comportamentului autonom al inteligenței artificiale face din ce în ce mai dificilă menținerea unui control eficient.
