Când Andrea Bartz a inițiat acțiunea în clasă împotriva Anthropic, compania a admis că a descărcat milioane de cărți cu drepturi de autor de pe site-uri pirat pentru a le folosi ca date de antrenament pentru modelele sale de inteligență artificială. Ca urmare, Anthropic a agreeat să plătească 1,5 miliarde de dolari, cea mai mare înțelegere pe tema drepturilor de autor din istoria SUA.
În timp ce Bartz și alți autori își protejau operele de preluarea neautorizată a materialelor, apărea o altă amenințare legată de AI: acuzațiile la adresa scriitorilor că ar folosi ei înșiși tehnologia generativă.
Scandalul care a șocat industria editurală în martie a pus lumină asupra acestui fenomen: romanul de groază „Shy Girl”, suspectat pe rețelele sociale că a fost generat în mare parte de AI, a fost retras de Hachette Book Group din programul american și dispărut din cel britanic, unde fusese deja lansat. Conform instrumentului de detecție Pangram, 78% din text era compus de AI.
Mia Ballard, autoarea „Shy Girl”, a respins acuzațiile, declarând că un editor ar fi avut acces la versiuni anterioare auto-publicate pentru a introduce modificări asistate de AI. Ea a anunțat că va recursa la mijloace legale. Această acuzație a venit la scurt timp după apariția unor controverse similare privind alți autori de ficțiune: unul după ce a câștigat un premiu de nuvelă și altul după ce editurile au licitat sume în milioane pentru un roman polițist de al său. Ambii autori au negat utilizarea AI.
Conform lui Bartz, chiar dacă acuzațiile se lansează, răul este deja făcut. Ea compară erupția scandalului „Shy Girl” cu o posibilă „vânătoare de vrăjitoare”. Presencia permanentă a AI-ului în edituri va duce la crearea unui mediu în care „oricine îl poate acuza pe oricine că folosește AI”, în timp ce autorii nu au mecanisme clare de apărare. „Nu există un standard convenit” pentru a demonstra autorul uman, explică Bartz.
O nouă generație de platforme soft, precum Workings, Blindproof, Wintertext, Human Ink și ObraVera, își propune să rezolve problema prin urmărirea și documentarea procesului de creație. Acestea pot cripta și face „amprentă digitală” (fingerprinting) a textelor sau ritmurilor de tastare, creând un dosar de autorship. Scopul este dublu: să poată prezenta un „fișier de parcurs” în cazul întrebărilor privind utilizarea LLM-urilor și să demonstreze proveniența materialului atunci când textul este preluat în seturile de antrenament AI fără atribuire.
Mary Rasenberger, CEO al Authors Guild, organizație dedicată libertății de exprimare și protecției drepturilor de autor, susține că sindicatele nu pot recomanda un instrument anume, dar consideră important ca autorii să știe de existența acestor soluții, descrise de ea ca o „plasă de siguranță”. Potrivit directorului pentru politică și advocacy al guildului, Umair Kazi, multe companii de acest fel s-au adresat direct Authors Guild pentru a-și vinde serviciile.
Cu toate acestea, Rasenberger consideră că autorii sunt obligați să facă „munca suplimentară disprețuitoare și plictisitoare” de a păstra dovezi și cred că această povară nu ar trebui impusă.
„Dacă ceea ce vinzi sunt cuvintele, vocea, imaginația ta și creativitatea, utilizarea AI nu are sens”, argumentează Rasenberger, observând că mândria scriitorilor împiedică răspândirea AI-ului („AI slop”) în editură la fel de mult cum crede unii. Ea explică faptul că, în conversațiile cu editori de ficțiune și non-ficțiune literară, mulți afirmă că „nu văd niciodată trimitări generate de AI, aș ști imediat”.
Rasenberger se teme de climatul de neîncredere creat și de lipsa sprijinului comunității literare față de acuzații. Ea atrage atenția și asupra încrederii exagerate în detectoarele AI. Deși Pangram prezintă un rat de fals pozitiv de 0,01% pentru scrierile creative, guildul a „auzit de multe cazuri” în care lucrări scrise uman au fost etichetate drept AI de Pangram, datorită unor factori care pot confunda algoritmul.
Programele de urmărire a procesului nu sunt perfecte, iar competiția armelor digitale implică un ciclu continuu de vulnerabilități și remedieri pe ambele părți.
Max Spero, cofondator și CEO al Pangram, recunoaște că instrumentele de tip „fișier de parcurs” nu sunt soluții universale. El menționează că cineva poate tast manual un text generat de AI sau poate folosi un auto-tastator. Complexitatea reală a procesului de scriere (lucrul cu multiple fișiere, trimiterile de drafturi, notițele vocale) nu poate fi surprinsă întotdeauna de aceste instrumente.
Soluțiile dezvoltate sunt concentrate mai mult pe preocupările legate de drepturile de autor decât pe confirmarea autenticității, afirmă Brady Ridgway, fondatorul tehnic al ObraVera. Platforma sa poate face „amprentă criptografică” a scrierii și a înregistrărilor vocale, permitând utilizatorilor înregistrați să urmărească refolosirea materialelor stocate. Prin timestamp și hash criptografic, platforma poate demonstra când și de cine au fost create cuvintele.
Deși obiectivele de proveniență și proprietate sunt atinse, Ridgway specifică că este responsabilitatea utilizatorului înregistrat să declare dacă a folosit sau nu AI. El invocă controversa din mai legată de câștigătorul premiului Commonwealth Short Story Prize, pe care software-ul îl va confirma simplu drept „persoana care a depus declarația”, fără a pot verifica veridicitatea declarației respective.
Există opinii conform cărora sistemele instituționale de verificare sunt imposibile de implementat practical și ar putea deveni în curând irelevante. Jane Friedman, expert în industria editorială, a argumentat în newsletter-ul său că era scandalurilor de AI va fi scurtă, datorită îmbunătățirilor continuale ale detectorilor precum Pangram. De asemenea, autorii au văzut deja consecințele negative dacă prezintă scrisul generat de AI ca propriul.
Potrivit lui Friedman, agenții și editurile sunt reticente în fața oricărui sistem de verificare care costă „bani sau timp suplimentar”, mai ales având în vedere imposibilitatea impunerii unui standard unic. Ea prezice că ar fi ca „a aduna pisicile” să obțină un consens, dat fiind caracterul lent al adopției tehnologice în industria editurală externă.
Chiar dacă editurile cu nevoi disparate ar converge teoretic spre o formă de autentificare, obstacolele rămân. Friedman subliniază problemele logistice de integrare în modelele existente, alături de riscul de „certificări falsificate sau manipulate”. Concluzionează că dacă acest lucru necesită costuri extra, „ai renunța”, iar autorii nu vor putea avea încredere că agenții și editurile vor accepta probele de la orice aplicație.
În absența unui rezolvare clară, scriitorii sunt lăsați să se descurce singuri. Bartz relatează îngrijorătoare anecdote din partea cititorilor zeloși: recenzori bombardează volume pe Goodreads pentru că le-au „sunat a AI”, iar unii cititori refuză să citească orice carte publicată după anul 2022 pentru a fi siguri că este liberă de generative AI, acțiune care „poate deraia întreaga industriă deodată”.
Cartea viitoare a lui Bartz, intitulată „Delete Your Account” și programată pentru 2027, abordează direct generative AI. Protagonista este o scriitoare blocată care ia o cale scurtă nefericită, făcând un chatbot AI să imite unul dintre thriller-urile sale favorite, pentru a fi înfinal prinsă în propria poveste, confruntându-se cu moartea sigură.
Bartz se întreabă dacă alegerea de a satiriza AI nu o pune în pericol. Ea scrie intenționat porțiuni care sună exact ca un LLM, incluzând transcrise false și materiale de marketing deranjante create de companii fictive de AI. „Și nu știu ce voi face dacă una dintre ele revine ca fiind scrisă de AI”, admite ea.