Medialine România avertizează asupra riscurilor de securitate generate de agenții AI cu acces extins

Medialine România explică cum agenții AI conectați la aplicații interne pot acumula drepturi excesive, fi manipulați prin prompt injection și propaga erori, iar securitatea devine o decizie de business legată de continuitate.

Medialine România avertizează asupra riscurilor de securitate generate de agenții AI cu acces extins

Raportul Global Cybersecurity Outlook 2026, publicat de World Economic Forum, arată că în lipsa unor mecanisme adecvate de control agenții AI pot acumula drepturi de acces excesive, pot fi manipulați prin vulnerabilități precum prompt injection sau pot propaga erori și vulnerabilități către alte sisteme.

Spre deosebire de un instrument AI utilizat pentru generarea de texte sau răspunsuri, un agent AI poate fi conectat la aplicații și surse de date și poate executa acțiuni în baza permisiunilor primite, putând consulta documente interne, interacționa cu alte aplicații sau automatiza etape dintr-un proces de lucru.

Specialiștii Medialine subliniază că securitatea agenților AI devine relevantă pentru companii: cu cât un sistem are acces la mai multe aplicații și informații, cu atât trebuie stabilit mai strict ce poate consulta, ce poate modifica și ce acțiuni necesită aprobarea unei persoane.

Elena Radu, Director Operațional Medialine România, explică că un agent AI nu trebuie privit doar prin prisma modelului folosit, ci și ca un nou tip de utilizator al infrastructurii companiei, astfel încât compania trebuie să știe exact ce poate face agentul în fiecare sistem și până unde se extind permisiunile.

Printre riscurile specifice se numără atacul de tip prompt injection, care poate determina un sistem AI să ignore instrucțiunile inițiale și să execute comenzi neprevăzute, putând conduce la accesarea de informații sau executarea de acțiuni fără acordul intenționat al utilizatorului dacă sistemul are acces la alte aplicații.

Un al doilea risc este extinderea excesivă a permisiunilor. Un agent configurat pentru o sarcină simplă poate ajunge în timp să aibă acces la mai multe aplicații sau funcții decât îi sunt necesare. World Economic Forum atrage atenția că multiplicarea agenților AI face administrarea identităților, acreditărilor și permisiunilor comparabilă cu administrarea accesului utilizatorilor umani și, în anumite situații, chiar mai complexă.

Există și riscul propagării unei erori. Într-un proces manual o decizie greșită poate rămâne limitată la o singură operațiune, în timp ce un sistem automatizat poate executa rapid aceeași acțiune asupra unui număr mare de fișiere, conturi sau aplicații, extinzând mult mai repede efectul unei configurații greșite sau al unei instrucțiuni eronate.

Elena Radu adaugă că riscul apare atunci când un sistem care poate greși sau poate fi manipulat primește acces nelimitat. Cu cât i se permite să execute mai multe acțiuni fără verificare, cu atât consecințele unei erori sau compromiteri pot fi mai mari, de aceea permisiunile, monitorizarea și posibilitatea de a opri sau limita rapid acțiunile unui agent trebuie stabilite încă din implementare.

Riscurile se adaugă formelor deja cunoscute de atac cibernetic. ENISA Threat Landscape 2025 a analizat 4.875 de incidente produse între iulie 2024 și iunie 2025, iar atacurile DDoS au reprezentat 77% dintre incidentele raportate.

Extinderea utilizării agenților AI nu înlocuiește aceste riscuri, ci adaugă un nou element în strategia de securitate: companiile trebuie să ia în calcul situațiile în care un sistem autorizat să opereze în interiorul infrastructurii execută o acțiune greșită sau este compromis.

Aceasta influențează strategia de recuperare a datelor. Dacă un cont sau un sistem cu drepturi extinse poate ajunge atât la datele operaționale, cât și la copiile de backup, compromiterea sa poate afecta capacitatea companiei de a reveni la o versiune nealterată a informațiilor.

Directorul Operațional Medialine România explică că în era AI protecția datelor nu mai poate fi gândită doar în termeni de backup clasic. Reziliența trebuie proiectată pentru scenarii imprevizibile, în care amenințarea poate veni chiar din interiorul sistemelor proprii, iar securitatea nu mai poate fi o grijă rezervată echipei IT, ci o decizie de business care ține de continuitatea companiei.

O metodă utilizată pentru protecție este Cyber Vault, un spațiu izolat de infrastructura operațională în care sunt păstrate copii ale datelor critice, stocate într-un format care împiedică modificarea sau ștergerea lor pe durata perioadei de retenție, cu acces strict limitat, iar recuperarea se face separat, după verificarea integrității datelor.

Pentru companii, introducerea agenților AI presupune și o decizie referitoare la nivelul de autonomie acordat acestor sisteme, securitatea legându-se de accesul permis de companie unui agent AI și de rapiditatea cu care poate fi oprit sau limitat dacă ceva merge greșit.

Medialine Eurotrade SRL este o companie internațională specializată în furnizarea de soluții IT complete și personalizate pentru companii medii și mari, operând în peste 20 de locații din Germania, Austria și România. Medialine funcționează ca un hub digital de business pentru companiile care pot accesa dintr-un singur loc toate serviciile IT necesare în operațiunile de business.

Categorii:
Entități:
Etichete:

Vezi sursa originală