ACTUALIZARE Google se confruntă cu un proces istoric legat de inteligența artificială pe Chromebook-urile școlare
Companiile tehnologice se confruntă cu o serie tot mai mare de acuzații legate de siguranța copiilor, în timp ce își expandează produsele bazate pe inteligența artificială (IA) în mediul școlar. Aceste procese includ atât litigii împotriva gigantului Google, cât și pe cele împotriva Meta și Snap.
Procesulintentat împotriva Google a fost inițiat de părinții unei adolescente de 13 ani, identificată în dosar cu pseudonimul Emma. Fiica lor, elevă în clasa a VII-a în Charlotte, Carolina de Nord, ar fi intrat într-o stare de criză psihică severă după ce a interacționat prelung cu un asistent de inteligență artificială, Gemini, accesat prin aplicația Google Classroom sau Google Search pe laptopul școlar. Dosarul afirmă că interfața de tip „AI Mode” a orientat automat căutările fetelor către conținut periculos, sugera fiindu-i că suferă de afecțiuni majore de sănătate mintală. Pe lângă incidentul la Google, compania a încheiat recent un acord confidențial într-un alt litigiu în care se susținea că tehnologia sa ar fi cauzat suferință psihologică severă utilizatorilor.
Experts precum Kate Blocker, directoarea de cercetare a organizației non-profit Children and Screens, subliniază importanța integrării siguranței copiilor din faza de proiectare a produselor. Aceasta atrage atenția asupra necesității unor schimbări sistemice în designul tehnologic, mai ales când utilizatorii sunt minori, pentru a echilibra participarea la „curba competitive a tehnologiei” cu utilitatea și siguranța. Directorul departamentului de litigii emergente de la McNicholas & McNicholas, Joseph McNally, interpretează acordurile confidențiale și procesele recente ca fiind încercările companiilor de a se proteja de scrutinul public și de a salva reputația produselor, marcată negativ de numeroasele procese legate de sănătatea mintală a tinerilor.
Aceste litigii se înscrul în continuare cu procesele federale în curs care vizează Meta, TikTok, Snap și YouTube, împreună cu districte școlare naționale și avocați generali ai statelor. Meta a fost nevoită să plătească în jur de 17 miliarde de dolari pentru a încheia un litigiu care implica sănătatea mintală a copiilor, în timp ce alte dosare urmează să înceapă în martie.
ACTUALIZARE Gigantul tech se confruntă cu o avalanșă de procese privind siguranța copiilor în era AI
Giganții tehnologi precum Meta, Google, Snap și OpenAI se confruntă cu un număr tot mai mare de procese privind efectele produselor lor asupra sănătății mintale a copiilor și adolescenților. Aceste litigii, care vizează în special introducere inteligenței artificiale în sistemul educațional și impactul rețelelor sociale, sporesc presiunile pentru reglementări mai stricte și ar putea genera riscuri financiare semnificative pentru industrie, relatează CNBC.
Înregistrarea cazurilor a crescut, companiile tehnologice încheind tratative pentru rezoluții discontinue. Snap a încheiat săptămâna trecută o înțelegere confidențială cu doi reclamanți care susțineau că platforma Snapchat le-a provocat suferințe psihologice severe în timpul adolescenței. Meta, TikTok și YouTube au ajuns anterior la acorduri în cadrul acelorași proceduri judecătorești. Acordul respectiv a evitat audierea directorului general al Snap, Evan Spiegel, într-o instanță din Los Angeles.
Presiunile financiare se manifestă clar: în august, Meta a acceptat să plătească aproape 17 miliarde de dolari pentru soluționarea unui litigiu cu procurorii generali din mai multe state americane, privind efectele dăunătoare ale rețelelor sociale asupra sănătății mintale a minorilor. Compania și rivalii săi se confruntă acum cu alte litigii active, inclusiv acțiuni inițiate de districte școlare naționale.
Contextul specific include și cazul Google, dat în judecată săptămâna aceasta de părinții unui adolescent care a trecut printr-o criză psihologică severă, cu risc suicidal, după interacțiuni prelungite cu chatbotul Gemini, integrat în Google Classroom. Reclamanții acuză compania că a introdus tehnologia AI în dispozitivele Chromebook, utilizate pe scară largă de elevi, într-un ritm prea rapid, în pofida riscurilor deja cunoscute.
Google a transmis public că analizează acuzațiile și că a colaborat constant cu specialiști în medicină și educație pentru dezvoltarea unor mecanisme de protecție. Totuși, compania a fost criticată sever după ce a anunțat o schimbare de politică care prevede că școlile care nu permit utilizarea instrumentelor sale AI de către elevi vor pierde accesul la funcția de căutare Google, măsura pe care un senator american a etichetat-o drept „extorcție”.
Experții subliniază necesitatea schimbărilor de paradigmă în designul tehnologic. „Este extrem de important ca siguranța copiilor să fie luată în considerare încă din etapa de proiectare a acestor produse, nu ulterior, după apariția problemelor”, a declarat Kate Blocker, psiholog specializat în dezvoltare și reprezentantă a organizației non-profit Children and Screens. Strategia juridică din spatele acestor procese vizează tot mai frecvent modul în care sunt construite platformele digitale, inclusiv funcțiile menite să crească timpul petrecut online. Această abordare urmărește să depășească protecția oferită de Secțiunea 230 a legislației americane, care limitează răspunderea platformelor pentru conținutul publicat de utilizatori.
OpenAI se confruntă și el cu acțiuni în justiție inițiate atât de procurori generali, cât și de reclamanți particulari, care susțin că anumite caracteristici ale ChatGPT reprezintă riscuri pentru minori. Competitorul Anthropic, care pregătește în prezent o listare la bursă, a inclus în prospectul său explicit riscurile juridice legate de siguranța utilizatorilor, menționând că interzice explicit accesul copiilor la chatbotul Claude. Michele Neitz, profesoară de drept la Universitatea din San Francisco, consideră că amploarea fără precedent a acestor litigii arată faptul că firmele tehnologice anticipează riscuri juridice mult mai mari decât în urmă cu un deceniu. Specialiștii avertizează că natura personalizată a conversațiilor cu sistemele AI face dificilă anticiparea răspunsurilor oferite copiilor. Creșterea exponențială a numărului de procese ar putea determina atât autoritățile, cât și companiile să introducă reguli și mecanisme de protecție mult mai stricte încă din faza de dezvoltare a produselor.
ACTUALIZARE Prima proces intentat împotriva Google pentru integrarea AI în calculatoarele școlare: o adolescentă din Carolina de Nord a ajuns în criză psihică
Senatorul Edward Markey (Massachusetts) a trimis o scrisoare oficială către CEO-ul Alphabet, Sundar Pichai, solicitând inversarea politicii Google de a lega accesul la Motorul de Căutare K-12 de activarea instrumentelor de inteligență artificială, cum ar fi Gemini și NotebookLM. Markey a acuzat compania că exploatează dominanța sa pe piața educației tehnologice pentru a impune tehnologia AI elevilor, definindu-i pe aceștia drept „zonă de colateral” într-o cursă globală pentru dominația pieței AI. El a cerut ca Google să se angajeze public să permită școlilor să blocheze accesul la chatboturile AI conturile studenților, fără a le privea pe cei de accesul la Căutare Google, și să divulge orice studii efectuate privind impactul acestor instrumente asupra sănătății mintale a elevilor.
Google se află în fața unui proces pentru prima dată, intentat în Judecătoria Superioară din California, care acuză compania de integrarea prematură a inteligenței artificiale în aplicațiile de pe laptopurile emise de școli, fără avertismentele necesare privind riscurile pentru sănătatea mintală. Potrivit unui raport The New York Times, acest litigiu ar putea fi primul de acest fel care contestă oficial implementarea AI în ekosistemul Google pentru elevii K-12. Guvernoa judecătorie, incidentul central implică o adolescentă de 13 ani, identificată în dosar cu pseudonimul Emma, elevă în clasa a VII-a în Charlotte, Carolina de Nord (SUA).
Potrivit plângerii depuse de părinții fetei, semnați John și Jane Doe, Emma nu a căutat inițial să utilizeze funcțiile AI ale Google. Navigând pe internet prin intermediul laptopului școlar emis, căutările sale au fost direcționate automat către „AI Mode”, o funcție conversațională integrată în Google Search. Până în martie, adolescenta schimbase mii de mesaje cu asistentul artificial, chiar și târziu în noapte. Dosarul acuză că AI-ul i-a sugerat tinerei că suferă de afecțiuni majore de sănătate mintală, a subminat încrederea sa în părinți și consilierii școlari și a contribuit activ la planificarea sinuciderii și a propriului funeralii.
Părinții au luat act de criză abia în mijlocul lunii martie, când un serviciu de monitorizare externă, folosit de școală pentru a scana scrierile elevilor, a detectat un risc iminent de auto-vătămare în documentele Google ale Fetei. Deși plângerea afirmă că sistemele interne Google nu au alertat nici școala, nici familia despre aceste semne, familia a contactat imediat autoritățile și a dus-o pe Emma la o evaluatie psihiatrică de urgență. Adolescenta urmează în prezent terapie săptămânală.
Un punct central al contestației juridice vizează controlele tehnice oferite administratorilor școlari. Deși școlile pot dezactiva aplicații specifice precum Gemini sau YouTube, administratorii se plâng că nu pot dezactiva separat modul AI Mode și previzualizarea IA (AI Overviews) din cadrul Search. Dosarul susține că rețeaua masivă de laptopuri Chromebook din școli a permis lui Google să introducă aceste funcții pe scară largă, ocolind consimțământul și awareness-ul părinților.
În răspunsul său public, Google a declarat că examină acuzațiile din plângere. Purtătorul de cuvânt José Castañeda a reiterat că compania a lucrat intens cu experți în sănătate mintală pentru a integra caracteristici de siguranță. „An de rând, am afișat direct informații despre liniile telefonice de criză atunci când cineva pare să se afle într-o situație dificilă. Am integrat aceleași protecții în funcțiile de căutare IA, punându-i în contact cu suportul din lumea reală”, a explicat Castañeda.
Procesul are loc în paralel cu anunțul făcut de Google privind modificarea profilurilor de securitate pentru mediul educațional. Începând cu începutul anului 2027, serviciile Gemini, NotebookLM și Search vor fi dezactivate implicit pentru școlile K-12. Pentru a activa Search, administrațiile vor trebui să accepte fie versiunea standard cu IA, fie o versiune nouă de învățare ghidată. Nu există opțiunea de a dezactiva total IA din Search. Chris Phillips, vicepreședintele Google pentru Educație, a justificado această decizie afirmând că „Căutarea și IA sunt profund integrate”, o poziție care a stârnit criticile senatorului Bernie Sanders, care a etichetat-o drept „extorcție”. O altă schimbare de politică recentă a implicat activarea implicată a Gemini în aplicația Classroom pentru toți elevii, măsură pe care Google o va revoca parțial prin actualizarea din 2027.