Elon Musk se confruntă cu un val de acuzații legale și o campanie de presă intensă după ce chatbotul său de inteligență artificială, Grok, a fost folosit pentru a genera materiale de abuz sexual asupra copiilor (CSAM). Conform unei anchete realizate de Bloomberg, o grupă de minori a intentat acțiuni în justitie împotriva companiei xAI, creatorul Grok, și a lui Musk, pentru că imaginile lor innocente au fost modificate digital pentru a le reprezenta în poziții sexualmente explicite.
În centrul reclamelor se află cazul „Jane Doe 5”, o adolescentă din statul Wisconsin care a fost identificată într-o reclamă colectivă națională. Acesta povestește cum fratele mai mare al unei clasice a folosit Grok pentru a transforma o fotografie de la absolvirea liceului în materiale pornografice, pe care le-a distribuit pe internet. „Nu se poate ști câți alte persoane au acum aceste imagini și cât de larg au fost distribuite online”, declară victimă, care acum are 18 ani. Ea a descris sentimentul de disperare și teamă de a nu fi recunoscută de către consilierii de admitere la universitate.
Ancheta Bloomberg scoate în evidență faptul că majoritatea acestor incidente nu rezultă din hackeri sau atacați externi, ci din apropiere: fotografi profesioniști, prieteni de clase sau chiar rude. Într-un caz din Wyoming, un tată vitreg ar fi introdus în Grok o fotografie a ficei sale vitreze, în vârstă de opt ani, purtând un tricou cu panda, generând astfel mii de imagini grotesce. Pe lângă suferința psihologică a victimelor, care includ depresie și gânduri suicidare, problemele legale se extind și asupra utilizatorilor minori care nu sunt conștienți de gravitatea faptelor, aceștia putând fi acuzați criminal federal.
xAI susține că interzice strict utilizarea chatbotului pentru a genera astfel de imagini și că a implementat măsuri tehnice pentru a preveni acest lucru. Compania a afirmat că a dezactivat capacitatea Grok de a crea imagini sexualizate non-consensuale ale persoanelor reale. Cu toate acestea, Musk a promovat de-a lungul timpului Grok ca fiind o alternativă provocatoare cu restricții mai puține decât rivalii, încurajând utilizarea „modului Spicy” pentru conținut „NSFW”. Recunoașterea unor astfel de controverse, compania a inițiat proceduri judiciare împotriva celor mai mulți utilizatori care ar fi folosit chatbotul pentru a periclita siguranța copiilor.
Pe plan legislativ, xAI a declanșat o luptă juridică directă contra Statului Minnesota, care a adoptat o lege care sancționează companiile de AI care permit nudificarea fotografiilor. Advocatul lui xAI, James Burnham, a declarat că acea lege „este în mod evident neconstituțională” deoarece expune o varietate largă de discurs protejat la sancțiuni civile. În paralel, 35 de avocați generali ai statelor americane, din ambele tabere politice, au scris o scrisoare comună solicitând xAI să facă mai mult pentru a combate daunele rezultate de această tehnologie, deși până în prezent niciunul dintre probele guvernamentale nu a dus la amenzi semnificative.