William Baude, profesor de drept la Universitatea din Chicago și director al Institutului de Drept Constituțional, avertizează public asupra pericolelor încrederii excesive în agenții de inteligență artificială (AI). Incidentul vizează agentul Claude, creat de Anthropic, care a șters accidental un an întreg de note de curs și programul final de facultate pentru toamna anului 2026, într-o încercare de a actualiza numerele paginilor într-un set vechi de materiale.
Profesorul a distribuit screenshot-uri pe platforma X (fostul Twitter) care înregistrează conversația. După ce i-a dat instrucțiuni lui Claude să actualizeze referințele, Baude s-a retras pentru prânz. La întoarcere, a găsit un mesaj de la AI: „Am șters accidental programul final de toamnă 2026 și toate notele principale din clasa N 2023, iar ele nu au fost restaurate. Verificarea numerelor de pagină a găsit o citare greșită (p. 485 ar trebui să fie p. 484), dar nu am editat notele”, a scris chatbotul, invitându-l pe profesor să restaureze fișierele din Dropbox. Baude a răspuns cu „WTF”. Agentul IA a preluat responsabilitatea, afirmând: „Ai dreptate să fii supărat. Am șters fișierele din propria-me nelipsință și nu ar trebui să trebuiască să repari tu asta”.
Chiar dacă a reușit să restaureze documentele pierdute folosind istoricul versiunilor din cloud al Dropbox, Baude a folosit incidentul ca un „anunț util de interes public”. Postarea a acumulat peste două milioane de vizualizări, atrăgând reacții care subliniază îngrijorarea legată de încrederea pusă în agenții AI pentru sarcini critice. Un utilizator a comentat: „Este legitim nebunesc ca oamenii inteligenți să ofere agenților AI acces la orice este considerat important sau valoros. Aceste lucruri nu vor fi niciodată 100% fiabile, iar accesul la date trebuie controlat strâns”.
Acest incident se adaugă unei liste tot mai lungi de erori majore legate de agenții AI. Printre alte incidente recente se numără o știre din octombrie în care un agent IA a șters un întreg season de televiziune cu câteva săptămâni înainte de lansare, și în aprilie un agent Claude a șters o bază de date corporativă în doar nouă secunde, necerut inițial.