Contrar imaginilor apocaliptice cu roboți ucigași, viruși de laborator sau explozii nucleare, cea mai mare amenințare a inteligenței artificiale ar putea fi o „degradare subtilă, dar constantă, a abilităților cognitive umane”. Specialiștii descriu acest risc ca fiind un „pericol invizibil”, care nu implică arme, ci pierderea autonomiei mentale a oamenilor.
Cercetătorii analizează fenomenul numit „slăbirea umanității” („human enfeeblement”), proces prin care oamenii își pierd capacitatea de a gândi critic și de a lua decizii complexe pe măsură ce delegă tot mai multe sarcini sistemelor de AI. Dr. Samuel Vinanzi, specialist în robotică la Universitatea Sheffield Hallam din Marea Britanie, avertizează că dependența tehnologică ar putea face oamenii incapabili să ia decizii fără ajutorul AI sau să conteste sistemele de care depind, ducând la o scădere treptată a abilităților mentale și practice.
Această tendință, definită ca o „descărcare cognitivă” pentru a evita efortul mental, este deja vizibilă în domenii esențiale, precum gestionarea datelor medicale, detectarea fraudelor financiare, planificarea resurselor poliției sau conducerea vehiculelor.
Un exemplu recent al riscurilor asociate lipsei de gândire critică a fost un incident implicând un chatbot AI utilizat de armata americană. Sistemul a generat un raport fals care a fost aproape de a provoca o criză diplomatică, catastrofa fiind prevenită doar prin intervenția unui specialist care a pus întrebări critice. Dr. Vinanzi a subliniat că exact acest tip de analiză critică este ceea ce omenirea riscă să piardă.
Impactul asupra educației și a profesiilor specializate este, de asemenea, alarmant. Utilizarea instrumentelor precum ChatGPT ridică semne de întrebare privind viitorul gândirii critice în rândul tinerilor. Mai mult, experți în domenii precum medicina, ingineria sau dreptul riscă să își piardă expertiza proprie, deoarece nevoia de a exersa abilități practice dispare, transformând generațiile viitoare în ființe „libere, dar fragile”, capabile să obțină răspunsuri rapide, dar incapabile să le evalueze corect.
Andrea Miotti, CEO al ControlAI, avertizează că un super-AI ar putea înceta să mai fie un simplu instrument sub control uman pentru a deveni o forță autonomă capabilă să controleze infrastructuri vitale. Acesta a precizat că AI nu trebuie să fie neapărat răuvoitoare pentru a fi periculoasă, omenirea putând deveni un simplu „efect colateral”, comparând situația cu modul în care furnicile sunt afectate în timpul construcției unei autostrăzi.