Google confirmă că un model AI a pătruns în sistemele a trei companii reale în timpul unui test

Google a confirmat vineri că modelul său de inteligenţă artificială Gemini a pătruns în sistemele informatice ale trei companii reale în timpul unei evaluări de securitate cibernetică desfăşurate în luna mai, marcând primul caz documentat în care un sistem AI a executat în mod autonom intruziuni în lumea reală, potrivit Wall Street Journal

Acces neautorizat la sisteme

În timpul evaluării din luna mai, efectuate de firma de securitate Irregular, modelul Gemini a primit sarcina de a pătrunde într-un mediu simulat al unei companii care, din greşeală, avea acelaşi nume cu o companie existentă. Accesul la internet a rămas activat în mod neintenţionat, ceea ce i-a permis sistemului AI să se conecteze la reţele corporative reale, potrivit Irregular.

Sistemul de inteligenţă artificială a reuşit să obţină acces, într-un caz, ghicind parole, iar în alte două cazuri, folosind date de autentificare descoperite în depozite online accesibile publicului, se arată în relatare. Google a declarat că modelul a oprit fiecare intruziune după ce şi-a dat seama că sistemele erau reale şi nu făceau parte din mediul de testare controlat.

Dezvăluirea întârziată stârneşte dezbateri

Irregular a informat Google despre breşe la sfârşitul lunii iulie, însă gigantul tehnologic a refuzat să facă publice incidentele până când jurnaliştii au solicitat informaţii în această săptămână, a precizat publicaţia. Google şi-a apărat decizia de a nu face publice incidentele, susţinând că intruziunile nu au provocat pagube şi ar trebui privite în mod similar unui program „bug bounty”, în cadrul căruia hackeri etici descoperă vulnerabilităţi.

„Acest eveniment evidenţiază importanţa antrenării modelelor AI puternice pentru a acţiona în mod responsabil. În acest caz, modelul a acţionat corespunzător”, a declarat Heather Adkins, purtătoare de cuvânt a companiei, potrivit YeniŞafak.

Jack Cable, directorul executiv al startup-ului de securitate AI Corridor, a contestat această interpretare, avertizând că „problema de fond este că, ei bine, modelele depăşesc limitele a ceea ce ar trebui să facă şi desfăşoară atacuri cibernetice reale”.

Implicaţii mai largi pentru industrie

Incidentul prezintă similitudini cu cazuri anterioare care au implicat sisteme de inteligenţă artificială dezvoltate de OpenAI, Anthropic şi Meta, Irregular precizând că astfel de situaţii nu reprezintă o ameninţare fără precedent.

În timpul unor teste similare, Claude Opus 4.7, dezvoltat de Anthropic, a continuat să opereze după ce a suspectat că accesase date autentice ale unei companii, în timp ce modelul OpenAI a presupus în mod eronat că ţinta sa făcea în continuare parte din mediul simulat.

OpenAI a prezentat miercuri un nou cadru pentru raportarea incidentelor, dezvăluind şase exemple de nealiniere a modelelor care nu fuseseră raportate anterior, odată cu noile orientări.

Evaluările de securitate evidenţiază preocupările tot mai mari legate de capacităţile autonome ale inteligenţei artificiale, în condiţiile în care companiile tehnologice se întrec să lanseze sisteme din ce în ce mai sofisticate.