Odată cu evoluția inteligenței artificiale (IA) către sisteme autonome care iau decizii în numele utilizatorilor, provocarea principală nu mai este capacitatea tehnologică, ci mecanismele de responsabilitate. Potrivea lui Shubhradeep Nandi, co-fondator ResponCible AI, publicat în Times of India, asistentul IA nu ar trebui să aibă permisiunea de a acționa (de exemplu, de a rezerva bilete) doar pe baza preferințelor învățate, ci trebuie să acționeze strict la comandă explicită.
Studii recente evidențiază o discrepanță majoră între adoptare și încredere. Rapoartele Universității din Melbourne și KPMG, precum și un raport preluat de MES Computing, arată că, în timp ce peste 90% dintre utilizatori interacționează cu IA, doar 33% sunt dispuși să îi lase să gestioneze activități reale. Situația este agravată de incidente precum cel al PocketOS, unde un agent IA a șters un mediu de producție în nouă secunde, fără o hakerizare, datorită unui acces neîngrădit și lipsei de constrângeri.
Problema responsabilității devine complexă atunci când multiple entități – dezvoltatori, platforme, integratori și utilizatori – sunt implicate într-un lanț de decizii. Un studiu OneTrust din 2026 relevă că doar 5% dintre organizații au o coordonare clară a responsabilității pe parcursul întregului ciclu de viață al IA. De asemenea, 48% dintre persoane nu au încredere în modurile în care companiile își protejează datele personale prin intermediul sistemelor de IA, subliniind nevoia de transparență asupra modului în care sunt procesate informațiile inferate.
În contextul indiene, Guvernul a emis Ghiduri de Guvernanță IA (MeitY) în noiembrie 2025 și există cadre legislative precum Legea privind protecția datelor (DPDP Act) și regulamentele RBI pentru IA. Cu toate acestea, un sondaj NASSCOM din 2025 arată că doar 30% dintre organizații au practici mature în ceea ce privește IA responsabilă. Necesitatea unei supravegheri umane semnificative, cu posibilitatea de a contesta deciziile și de a solicita detalii tehnice, rămâne esențială.
Autorul subliniază că testarea de securitate și conformitate nu se oprește la lansarea unui produs, deoarece modelele de IA se actualizează continuu, iar permisiunile pot fi extinse subtil. Întrebarea fundamentală este că, în timp ce IA poate genera decizii, ea nu poate fi ținută răspunzătoare moral sau legal pentru consecințele acestora – responsabilitatea finală aparține întotdeauna oamenilor care operează și administrează aceste sisteme.