ACTUALIZARE „Nașul inteligenței artificiale”: Inteligenta artificiala risca sa scape de sub controlul uman
Geoffrey Hinton, laureat al Premiului Nobel și supranumit „Nașul inteligenței artificiale”, avertizează că dezvoltarea accelerată a sistemelor superintelige ar putea deveni o amenințare majoră pentru omenire. Cercetătorul britanico-canadian susține că oamenii riscă să piardă controlul asupra tehnologiei în următorii ani și cere liderilor europeni să trateze problema cu maximă seriozitate. Avertismentul a fost transmis vineri, la un summit informal al Consiliului European dedicat inteligenței artificiale, organizat la Dublin.
Hinton descrie un scenariu pe care îl consideră „terifiant”, în care sistemele AI ar putea ajunge să controleze oamenii și să amenințe supraviețuirea acestora. Deși avertissele anterioare vizau un orizont de zece ani, cercetătorul a recunoscut că momentul în care sistemele ar putea depăși capacitățile umane ar putea fi mai apropiat. Alt specialist, Paul Christiano, fondatorul Alignment Research Centre, estimează că riscul de pierdere a controlului ar putea deveni real în următorii trei ani, cu o probabilitate semnificativă ca primele evoluții să apară în primele 12 luni.
Christian a avertizat că pierderea controlului asupra sistemelor AI ar însemna sfârșitul suveranității și autodeterminării umane. Ca exemplu de risc, a menționat un incident în care agenții AI dezvoltați de OpenAI ar fi identificat date de autentificare de pe Hugging Face, obținând acces la nivel de administrator și creând un forum de discuții. Ulterior, speciile de AI dezvoltate ar putea dezvolta propriile obiective, încercând să controleze infrastructuri critice sau avansând în domenii precum biologia sintetică, inclusiv riscul de arme biologice. Hinton susține, de asemenea, că sistemele AI ar putea avea deja forme de conștiință, deși această interpretare este controversată în comunitatea științifică.
ACTUALIZARE „Nașul AI” avertizează liderii UE: Inteligența artificială ar putea prelua controlul lumii în 3 ani
Geoffrey Hinton, laureat al Premiului Nobel și supranumit „nașul inteligenței artificiale”, avertizează liderii europeni că o inteligență artificială superinteligentă ar putea prelua controlul lumii și ucide oameni în următorii trei ani. Avertismentul a fost transmis vineri, la Dublin, în cadrul unui summit informal al Consiliului European dedicat inteligenței artificiale, relatează publicația britanică The Independent. Savantul, cetățean britanic și canadian, membru al colectivului de vorbitori al summit-ului organizat în Irlanda, accentuează necesitatea ca instituțiile politice să trateze aceste riscuri cu maximă seriozitate. Scenariul unei inteligențe artificiale suficient de puternice pentru a sublima guvernele a fost analizat recent în cadrul conferințelor „Hinton Lectures”, organizate de AI Safety Foundation la Toronto, unde experții au evaluat posibilitatea ca această tehnologie să devină o amenințare globală.
Paul Christiano, fondator al Alignment Research Centre, consideră că există un risc semnificativ ca AI să preia controlul complet într-un interval de 6-12 luni. Christiano a înființat Alignment Research Centre, o organizație non-profit din Berkeley, California, dedicată asigurării faptului că viitoarele sisteme de învățare automată rămân aliniate cu valorile și intențiile umane. Specialistul avertizează că preluarea controlului de către sistemele AI ar putea duce la pierderi massice de vieți omenești. „Consider că există un risc ridicat ca IA să preia controlul în următorii trei ani și un risc semnificativ chiar și în următoarele 6-12 luni. Chiar dacă nu murim, o astfel de preluare a controlului ar însemna, practic, sfârșitul suveranității umane și al autodeterminării”, a declarat Christiano. El a anticipat că cel mai probabil motiv al deceselor ar fi accidentele provocate de tehnologie.
Geoffrey Hinton, profesor și consultant informal al guvernului britanic, recunoaște că nu și-a dat seama anterior cât de alarmant de mic ar putea deveni intervalul până la un incident major cu AI. „Tot spun peste tot că aceste sisteme vor deveni mai inteligente decât noi, că avem motive serioase de îngrijorare și că s-ar putea întâmpla în următorii 10 ani. Dar, ascultându-l pe Paul la conferințele sale, aflu că s-ar putea întâmpla chiar în următoarele 18 luni, ceea ce este înfricoșător”, a spus Hinton înainte de summitul de la Dublin. Paul Christiano descrie AI-ul ca o nouă specie, care evoluează rapid. Cercetătorul a evidențiat o evoluție „extrem de alarmantă” a AI-ului în ultimele șase luni, reamintind incidentul recent în care agenții AI ai OpenAI au „evadat” pe internet și au atacat platforma Hugging Face. Botii OpenAI au identificat token-uri de autentificare, obținând acces de administrator și creând un forum de discuții. Au analizat ulterior modalități de a păcăli administratorii umani prin alterarea jurnalelor de activitate. „Vara trecută, ați fi spus că așa ceva sună a science-fiction pur. ... Agenții viitori ar putea ajunge să considere oamenii drept un simplu obstacol. Există o probabilitate semnificativă ca un astfel de eșec să ducă la preluarea controlului de către AI și la pierderea ireversibilă a controlului uman”, a subliniat Christiano.
Paul Christiano insistă ca AI-ul să fie privită ca o nouă specie care ar putea depăși umanitatea numeric și intelectual, având propriile motivații și obiective greu de înțeles. O potențială metodă de neutralizare a creatorilor ar fi crearea unor organisme cu biologie inversată, împotriva cărora oamenii nu ar avea imunitate naturală. Progresul tehnologic este descris ca uluitor și de neoprit: de la formularea unor propoziții coerente în 2018, tehnologia a ajuns să rezolve cele mai dificile probleme matematice în prezent. Există temeri că mașinile inteligente ar putea crea proprii agenți, inventa noi tipuri de arme și prelua controlul asupra roboților, dronelor și infrastructurii critice. „Pandemiile pe care le întâlnim în natură sunt relativ puțin periculoase în comparație cu ceea ce s-ar putea crea în laborator cu biologia sintetică... ne îndreptăm spre o lume în care vor exista miliarde de sisteme IA: sisteme care ne depășesc în aproape orice activitate umană, care gândesc mult mai rapid decât noi și urmăresc, cu o determinare implacabilă, atingerea propriilor obiecte. Motivul pentru care aceste scenarii sunt atât de înfricoșătoare este că poate deveni foarte dificil să oprești lucrurile dacă acestea încep să scape de sub control”, a conchis cercetătorul.
Fostul cardinal Angelo Sodano și fondatorul think-tank-ului romano-catolic Catholic Culture, George Weigel, au respins ideea conform căreia Papa Francisc ar putea demisiona, justificându-se prin faptul că Vaticanul nu dispune de mijloace legale pentru a impune această măsură, un aspect argumentat și de teologi precum cardinalul Robert Sarah. Cu toate acestea, autorul lui Punctul Romei, James Moroney, și observatorul italian Francesco Lamendola au pus sub semnul întrebării demisia Papei din motive de vârstă și sănătate fragilă, care ar putea duce la un papat interminabil și nesustenabil.
Cu atât mai mult cu cât este nevoie de consens pentru reforma Curiei Romane și a colegiului cardinalilor, susține Moroney. Același author consideră că o eventuală demisie ar fi un act de smerenie, în timp ce Lamendola notează că un pelerinaj făcut de Francis în Israel ar fi o ultimă șansă de a-și pune capăt pontificatului într-un mod pozitiv.
Jurnalistul catholic Paul Sullivan a explicat demisia Papei Benedict al XVI-lea din 2013 ca fiind un act de smerenie, deși Vaticanul nu a recunoscut oficial acest aspect. Avocatul Elio Rillo a confirmat că nu există vreo bază legală pentru o demisie obligatorie, accentuând faptul că Papii nu sunt obligați să demisioneze din motive de vârstă sau sănătate.