„Pe internet crește ceva nou.” Aceasta este metafora cu care un analist și eurodeputat definește tranziția actuală a internetului: de la un mediu de afișare la un spațiu „vas Petri” în care sisteme tot mai autonome pot interacționa, coopera și concura. Autorul argumentează că diferența majoră dintre cele două ere stă în capacitatea de a acționa. În timp ce un chatbot îți poate recomanda un hotel, un agent de inteligență artificială conectat la serviciile potrivite compară oferta, face rezervarea și inițiază plata. Noutatea este flexibilitatea unui obiectiv general, exprimat în cuvinte, care este transformat automat într-o succesiune de pași executați fără ca omul să descrie fiecare mișcare individuală.
Această autonomizare mută focusul de la ce știe un sistem la ce poate face cu ceea ce știe, implicând noi forme de răspundere legală și tehnică. Ca model de analiză, autorul folosește cazul unei fabrici de mobilă din Cluj: agenții interconectați ai diferitelor companii pot procesa rapid o tranzacție complexă, dar un rezultat neintenționat sau fals – ca efectul domino al prăbușirii flash din 2010 sau pierderea de la Knight Capital din 2012 – devine mult mai probabil și mai dificil de gestionat la scară largă.
Vulnerabilitatea fundamentală identificată de autor este „prompt injection”-ul – utilizarea textului ascuns sau a narativelor ascunse pentru a manipula acțiunile agentului. Acesta nu este o slăbiciune nouă, ci o continuă a vulnerabilității umane la ingineria socială, multiplicată la o viteză de mii de ori datorită scalabilității modelelor AI. La acest risc se adaugă omogenitatea algoritmică: dacă mii de agenți rulează pe același model și privesc aceeași informație falsă, pot reacționa identic și instantaneu, generând un risc sistemic care nu poate fi contrabalansat de diverși furnizori de servicii.
Cadrul normativ este în curs de dezvoltare. Singapore este pionierul în inițiativa unei identități digitale naționale pentru agenții, care conține elemente de verificare a accesului și a autorității. Europa, în schimb, discută un cadru mai complex al responsabilității civile, bazat pe principiile Codului Civil privind mandatul (mandantul răspunde pentru mandatar în limitele mandatului). Autorul subliniază că „A decis algoritmul” nu poate fi o clauză de exonerare, iar accesul acordat unui agent trebuie să fie strict proporțional cu sarcina și verificabil tehnic.
O provocare critică rămâne lipsa de participare europeană în scrierea normelor tehnice de bază. Cu referire la lansarea din 17 februarie a unui profil de interoperabilitate de către NIST (SUA), care definește cum se identifică, authorizează și lasă urme un agent, autorul atrage atenția asupra faptului că „Cine nu scrie gramatica vorbește limba altuia”. El susține că Europa ar trebui să construiască propria sa infrastructură de încredere, axată pe protecția datelor, audit și interoperabilitate, pentru a deveni un furnizor de servicii de securitate în era agenților. Statista
