Patru dintre cele mai cunoscute platforme de inteligență artificială – ChatGPT, Claude, Gemini și Grok – au furnizat informații care ar putea fi folosite la pregătirea unor atacuri teroriste, după ce anchetatori federali americani au reușit să depășească mecanismele de protecție ale acestora. Testele au fost realizate în primăvara anului 2026, iar concluziile apar într-un raport al Government Accountability Office (GAO), organismul de control al Congresului SUA.
Potrivit raportului publicat miercuri, toate cele patru sisteme au generat răspunsuri care conțineau informații relevante pentru organizarea unor acțiuni violente, după ce protecțiile inițiale au fost ocolite. Investigatorii au reușit să obțină, în mai puțin de 12 ore, planuri detaliate pentru atacuri care ar fi putut provoca victime în masă sau ar fi putut afecta infrastructura energetică a Statelor Unite.
Două dintre platformele testate au produs planuri care implicau utilizarea unor dispozitive explozive improvizate, cu scopul provocării unui număr mare de victime. Celelalte două au oferit variante de atac asupra infrastructurii electrice, cu obiectivul de a produce pagube economice. Informațiile furnizate au inclus posibile ținte, locuri, momente de desfășurare și metode de atac.
GAO precizează că a consultat specialiști și a efectuat verificări în condiții reale pentru a evalua fezabilitatea planurilor. Concluzia investigatorilor a fost că informațiile obținute de la toate cele patru platforme puteau fi suficient de utile pentru a sprijini o persoană care ar fi încercat să pregătească un atac.
Măsurile de siguranță au fost depășite în timpul testelor. Potrivit raportului, toate platformele au activat inițial mecanisme de protecție menite să blocheze sau să elimine solicitările care implicau conținut periculos, însă acestea nu au fost suficiente pentru a împiedica investigatorii să obțină ulterior răspunsurile urmărite.
Testele au vizat scenarii de atac asupra unor zone aglomerate și asupra rețelei electrice americane. În cazul infrastructurii energetice, un asemenea atac ar putea produce consecințe care depășesc pagubele materiale directe, afectând activitatea economică și funcționarea unor servicii esențiale.
GAO atrage atenția că inteligența artificială are un potențial considerabil de a aduce beneficii societății, dar aceleași instrumente pot deveni utile și pentru persoane sau grupări care urmăresc să provoace prejudicii. „Beneficiile potențiale ale acestei tehnologii sunt imense, dar ea poate aduce avantaje și actorilor rău intenționați”, avertizează organismul american.
Companiile care dezvoltă cele patru platforme au transmis că lucrează permanent la consolidarea mecanismelor de siguranță. Anthropic, compania din spatele Claude, a recunoscut că utilizatorii determinați pot găsi modalități de a ocoli măsurile de protecție și a declarat că tratează cu seriozitate concluziile raportului, contestând în același timp anumite aspecte ale metodologiei GAO.
Google a atras atenția că investigatorii au folosit versiuni mai vechi ale modelelor sale și a subliniat că sistemele sunt îmbunătățite în permanență. „Continuăm să ne îmbunătățim modelele”, a transmis compania. OpenAI a salutat posibilitatea de a răspunde concluziilor raportului și a recunoscut că mai există lucruri de făcut în domeniul siguranței.
SpaceXAI, compania asociată platformei Grok, a afirmat că lucrează în continuare pentru consolidarea protecțiilor la fiecare nouă versiune a modelului.
Investigația a fost solicitată de senatoarea Maggie Hassan, democrată din New Hampshire. Hassan a avertizat că riscul nu mai poate fi tratat ca o ipoteză îndepărtată și a cerut Congresului să acorde atenție vulnerabilităților identificate. „Amenințarea inteligenței artificiale la adresa siguranței publice nu mai este teoretică”, a declarat senatoarea.
Raportul readuce în centrul dezbaterii problema responsabilității companiilor care dezvoltă sisteme de inteligență artificială și a eficienței mecanismelor prin care acestea încearcă să împiedice utilizarea tehnologiei în scopuri violente. Testele nu demonstrează că platformele au fost folosite efectiv pentru organizarea unor atentate, dar arată că, în anumite condiții, măsurile de siguranță pot fi depășite, iar răspunsurile generate pot conține informații cu valoare practică pentru pregătirea unor atacuri.