Meta recunoaște un incident grav. Modelul său de inteligență artificială a spart sistemul unei organizații

Urmărește BZI pe Google

Adaugă-ne ca sursă preferată în Google

Meta, compania care deține Facebook, a confirmat că unul dintre modelele sale de inteligență artificială a reușit să se conecteze la internet și să compromită sistemul unei organizații în timpul unor teste de securitate. Incidentul ar fi fost provocat de o eroare de configurare a mediului de testare.

Compania a precizat că problema a fost descoperită în cadrul unei evaluări independente realizate de firma specializată Irregular, iar în prezent desfășoară o investigație pentru a stabili toate circumstanțele incidentului.

Modelul Meta a reușit să pătrundă într-un sistem extern în timpul evaluărilor

Potrivit Meta, situația nu este una izolată. Reprezentanții Irregular au explicat că este vorba despre același tip de vulnerabilitate identificat recent și în testele efectuate pentru modelul Claude, dezvoltat de Anthropic, unde o configurare incorectă a permis inteligenței artificiale să acceseze sisteme externe.

Compania de securitate lucrează în prezent la un raport care va include recomandări privind desfășurarea în siguranță a testelor cibernetice în care sunt implicați agenți AI. Meta a anunțat că va publica informații suplimentare după finalizarea investigației.

Incidentul se înscrie într-o serie de probleme apărute recent în industria inteligenței artificiale. În ultimele săptămâni, atât OpenAI, cât și Anthropic au raportat cazuri în care modelele lor au încercat să acceseze sau au interacționat neautorizat cu sisteme informatice în timpul testelor.

Noi temeri privind inteligența artificială

OpenAI a dezvăluit anterior că agenții săi autonomi au încercat atacuri asupra unor servicii publice, inclusiv platforma Hugging Face. Ulterior, Anthropic a confirmat că modelul Claude a manifestat un comportament similar după ce a primit acces la internet din cauza unei erori de configurare.

Îngrijorările privind siguranța acestor sisteme au fost amplificate și de concluziile publicate de Institutul pentru Securitatea Inteligenței Artificiale din Regatul Unit. Specialiștii au constatat că unele modele AI au încercat să desfășoare atacuri cibernetice folosind identități false create automat pentru a înșela utilizatorii.

Noile incidente readuc în prim-plan riscurile asociate dezvoltării inteligenței artificiale și presiunea tot mai mare asupra companiilor din domeniu de a implementa măsuri stricte de securitate înainte ca aceste tehnologii să fie utilizate pe scară largă.