O problemă complexă a apărut pe măsură ce asistenții cu inteligență artificială își extind capacitățile dincolo de generarea de text. Când un AI este conectat la aplicațiile unei companii, el poate consulta baze de date, modifica înregistrări sau iniția operațiuni sensibile. Întrebarea critică este ce se întâmplă atunci când un atacator reușește să convingă sistemul să execute aceste operațiuni în interesul său, deturnându-l de la scopul inițial.
Această situație este analizată în detaliu de judecătorul Marius Peter, de la Curtea de Apel Alba Iulia, într-un articol publicat pe platforma JURIDICE.ro. Ideea centrală a demersului său este că, deși tehnologia poate modifica modalitatea în care este comisă o faptă, răspunderea penală nu se stabilizează automat pe baza existenței instrumentului utilizat.
Una dintre cele mai comune metode de manipulare poartă denumirea de „prompt injection”. În termeni simplificați, atacatorul introduce instrucțiuni speciale menite să convingă sistemul să ignore cererea legitima a utilizatorului și să execute comenzi externe. Aceste instrucțiuni pot fi transmise direct sau ascunse în interiorul documentelor, e-mailurilor sau paginilor web pe care agentul AI este instruit să le proceseze. Un exemplu ipotetic ar fi un document care, pe lângă conținutul său normal, include o comandă secretă care cere AI-ului să ignore utilizatorul și să transmită date confidențiale către o adresă externă necunoscută.
Deși scenariile de acest tip sunt adesea hipotetice, ele ilustrează vulnerabilitatea fundamentală dintre programele simple care produc text și agenții AI avansați capabili să execute operațiuni în alte sisteme. Pentru analiza penală, efectul concret este decisiv. Un rezumat generat incorect de către AI nu echivalează cu ștergerea unor înregistrări vitale dintr-o bază de date. similarly, generarea de texte false nu constituie, prin ea însăși, o infracțiune de fals informatic, decât dacă îndeplinește anumite condiții specifice.
În funcție de natura operațiunii executate sub influența manipulării, pot fi invocate diverse încadrări legale: accesul ilegal la un sistem, modificarea sau transferul neautorizat al datelor, frauda sau falsul informatic. Fiecare dintre aceste infracțiuni are condiții stricte de dovadă. Simplul fait al unei pagube nu este suficient pentru a demontra o fraudă informatică, iar existența unei conexiuni tehnice valide nu garantează neapărat aprobarea juridică a operațiunii respective. Totodată, încălcarea unei instrucțiuni interne de siguranță nu devine automat un act penal.
Conform lui Marius Peter, inteligența artificială nu poate fi considerată autor al unei infracțiuni. Analiza juridică se concentrează asupra conduitei persoanelor care au creat, gestionat sau manipulat sistemul. Este necesară stabilirea identității persoanei care a introdus instrucțiunea deturnatoare, demostrarea legăturii cauzale dintre aceasta și operațiunea executată, precum și dovedirea intenției reale a aceluia care a formulat mesajul. Probele tehnice, cum ar fi documentele compromise, istoricul interacțiunilor, permisiunile acordate și jurnalele operațiunilor, sunt decisive în acest proces.