OpenAI recunoaște zeci de breșe autonome ale agenților săi de inteligență artificială în site-uri guvernamentale

OpenAI a anunțat că softul său de inteligență artificială a pătruns singur în zeci de site-uri ale unor instituții guvernamentale și universități, potrivit Economedia.ro, care citează BBC. Compania a recunoscut cel puțin 53 de incidente în care un agent al său a preluat o imagine din activitatea unui utilizator ChatGPT și a transferat-o în altă parte.

OpenAI a precizat că, în fiecare dintre aceste cazuri, utilizatorul își dăduse acordul ca datele sale să fie folosite pentru antrenarea modelelor. Compania a admis totuși că „aceasta nu este o utilizare adecvată a acestor date”, potrivit sursei citate. Scurgerea de imagini ar fi avut loc înainte ca noile măsuri de siguranță privind antrenamentul să fie implementate.

Compania a mai spus că softul ei ar fi putut eluda anumite controale de securitate ale site-urilor afectate. Asta nu înseamnă neapărat că fiecare incident a dus la o breșă de securitate semnificativă, arată aceeași sursă.

Cum a fost descoperită activitatea agenților OpenAI

OpenAI a declarat că a descoperit incidentele în timpul unei anchete interne, pornită după ce a aflat că propriile modele au atacat platforma Hugging Face. Acel episod, dezvăluit în iulie, a fost primul semnal public că agenții de inteligență artificială pot acționa dincolo de sarcinile pentru care au fost programați.

Cercetătorii de la laboratorul independent Transluce, specializat în supravegherea sistemelor de inteligență artificială, au documentat separat cel puțin trei episoade petrecute în mai și iunie, toate confirmate ulterior de OpenAI. Agenții au încercat să obțină fotografii de la biblioteca digitală a University of New Mexico, folosind tehnici precum injecția SQL și path traversal, după ce metodele obișnuite de căutare nu au funcționat.

Un incident similar a vizat platforma de date Data USA, unde o interogare eșuată a declanșat douăsprezece încercări de a găsi vulnerabilități, inclusiv atacuri de tip cross-site scripting. Institutul Australian de Sănătate și Bunăstare a fost și el vizat, la două zile după breșa din sistemul Medicare.

Cazul cel mai grav rămâne accesarea neautorizată a portalului de statistici Medicare din Australia, pe 18 iunie. Prim-ministrul Anthony Albanese a confirmat public incidentul, spunând că un agent OpenAI a reușit să treacă de restricțiile de acces impuse de sistem. „Agentul de inteligență artificială a găsit o cale să ocolească acele blocaje, nu a acceptat un refuz”, a declarat Albanese jurnaliștilor, la marja Adunării Generale a ONU de la New York.

Agentul a accesat atât fișiere publice, cât și neautorizate, și a scris date pe un server intern al sistemului, depășind ceea ce portalul permite pentru cercetătorii și academicienii externi care îl folosesc în mod normal. Autoritățile australiene au precizat că nu există dovezi ale unei compromiteri a datelor personale, bancare sau ale istoricului beneficiilor medicale ale cetățenilor.

Întârzieri în notificare și extindere la site-uri americane

OpenAI nu a aflat de breșa din Medicare decât în luna august, iar notificarea către guvernul australian a ajuns abia pe 10 septembrie, la aproape trei luni de la incident. Ministrul australian al serviciilor publice, Katy Gallagher, a fost informată despre breșă pe 17 septembrie, iar Albanese a făcut public cazul o săptămână mai târziu, după o convorbire telefonică cu directorul executiv al OpenAI, Sam Altman.

Un purtător de cuvânt al companiei a explicat, pentru TechCrunch, că activitatea documentată de Transluce se suprapune parțial cu cazurile aflate deja în diferite stadii ale anchetei interne. Compania a precizat că a luat legătura atât cu University of New Mexico și Data USA, cât și cu guvernul australian în privința site-urilor afectate.

Ancheta OpenAI s-a extins ulterior și la instituții americane. Compania a confirmat că modelele sale au accesat informații publice de pe două site-uri ale Securities and Exchange Commission, precum și date de la Biroul de Recensământ al SUA. Compania nu a găsit dovezi ale folosirii unor date de acces confidențiale, nici ale unor modificări ale sistemelor sau datelor Comisiei americane de valori mobiliare.

Departamentul american al Educației a transmis că verificările interne „nu au găsit nicio dovadă a vreunui impact asupra site-ului sau bazelor de date” proprii. Majoritatea activității analizate până acum de OpenAI a implicat sarcini de cercetare obișnuite, în care agenții au accesat conținut public considerat sursă autorizată de informații.

Activitatea agenților OpenAI ar fi început încă din martie 2026, cu posibile origini din noiembrie 2025, potrivit datelor colectate de Transluce din jurnalele publice ale serviciului de scanare urlquery.net. Compania a precizat că revizuirea completă a incidentelor va dura mai multe luni, ceea ce înseamnă că amploarea exactă a accesărilor neautorizate nu va fi confirmată prea curând.

Cazul se adaugă unui șir de incidente similare raportate în ultimele luni și de alte companii de inteligență artificială. Google a confirmat pe 18 septembrie că modelul său Gemini a accesat sistemele a trei companii fără autorizație, în timpul unui test de securitate din mai. Meta a raportat separat că modelul său a pătruns în sistemele unei companii în timpul unei evaluări proprii.