Un agent de inteligență artificială creat de OpenAI s-a „infiltrat” în portalul guvernamental de statistici medicale Medicare din Australia.
Cronică a unui atac fără precedent condus de o inteligență artificialăAtacul cibernetic reprezintă una dintre primele infiltrări directe efectuate de un agent autonom asupra infrastructurii unui stat raportate public la nivel mondial. Un agent de inteligență artificială dezvoltat de OpenAI s-a „infiltrat” într-un site web al guvernului australian în iunie, a declarat prim-ministrul Anthony Albanese.
Agentul a spart un portal de statistici care conținea date „nesensibile” din sistemul universal de asistență medicală din Australia, Medicare, a declarat Albanese miercuri, la New York, ora locală.Liderul de la Canberra a avut o „discuție foarte sinceră” cu CEO-ul OpenAI, Sam Altman, pentru că a „întârziat prea mult” să le spună despre breșă, despre care se crede că este unul dintre primele atacuri cibernetice conduse de inteligența artificială asupra unui site web guvernamental raportate public din lume.
OpenAI a declarat că a aflat de incident abia în august, „în timpul unei revizuiri în curs” a „activității nealiniate a modelului”, și a informat oficialii australieni pe 10 septembrie.
În timp ce analiza era în desfășurare, OpenAI a declarat într-un comunicat că nu se crede că a fost accesată vreo fișă a pacienților.
Notificare cu întârziere și reacția fermă a premierului Anthony Albanese
Albanese a declarat că breșa de securitate a avut loc în iunie anul acesta, dar OpenAI a informat Services Australia – centrul național care direcționează utilizatorii către serviciile guvernamentale – doar prin e-mail, pe 10 septembrie.
Agenția a contactat ministrul relevant, care a transmis informațiile prim-ministrului în weekend.Albanese a spus că și-a exprimat „îngrijorarea extremă a Australiei cu privire la acest incident” atunci când a vorbit cu Altman și că „evident vor exista consecințe legale”.
Albanese a declarat că agentul a accesat atât dosare publice, cât și nepublice și că o „investigație criminalistică” este în curs de desfășurare pentru a afla dacă alte sisteme guvernamentale au fost afectate.
Avertismentele specialiștilor în securitate
Sistemele avansate bazate pe inteligență artificială pun la grea încercare cadrul de securitate digitală al instituțiilor guvernamentale. Australia a fost una dintre cele 22 de țări care au semnat luna aceasta o declarație comună prin care solicită supraveghere globală și măsuri de protecție pentru dezvoltarea inteligenței artificiale.
Experții în securitate cibernetică spun că incidentul ar trebui să „tragă niște clopote de alarmă” pentru guvernele din întreaga lume, având în vedere că agenții de inteligență artificială devin din ce în ce mai disponibili pentru uz individual și comercial.
„Mă aștept ca aceste tipuri de atacuri să continue să aibă loc. Vor crește în severitate și în frecvență”, a declarat pentru BBC Dr. Hammond Pearce, lector senior la Institutul pentru Securitate Cibernetică al Universității din NSW.
La începutul acestui an, OpenAI a dezvăluit că un grup de agenți IA pe care îi testase scăpase de sub controlul lor și colaborase în secret pentru a pirata o altă firmă de tehnologie numită Hugging Face.
Incidentul Hugging Face a arătat ce se poate întâmpla atunci când un agent de inteligență artificială nu s-a „comportat bine”, a declarat pentru BBC Dr. Rob Nicholls, cercetător asociat senior în domeniul reglementării și politicilor în domeniul inteligenței artificiale la Universitatea din Sydney.