Unde se termină creativitatea umană și unde începe inteligența artificială? Industria editorială din SUA, în criză din cauza suspiciunilor de redactare cu AI

Unul dintre cele mai recente cazuri este cel al romanului polițist „Call Me, I’ll Hide the Body”, scris de Jerry Falade. Autorul, student la Southern Methodist University, obținuse un contract de milioane de dolari pentru debutul său literar. Ulterior, agenția care îl reprezenta a renunțat la proiect. Reprezentanții au explicat că nu mai poate susține cartea. Ei nu au reușit să verifice dacă manuscrisul fusese scris în întregime de autor.

Agenția Europa Content a transmis editorilor, într-o scrisoare din iulie, că situația ridică „atât de multe întrebări despre paternitate și despre ceea ce înseamnă AI pentru această industrie”. Falade a respins acuzațiile și a susținut că acestea au avut motivații rasiale.

Cărți retrase după acuzații privind folosirea AI

În luna martie, editura Hachette Book Group a anulat lansarea în Statele Unite a romanului horror „Shy Girl”, al autoarei Mia Ballard. Cartea fusese publicată inițial independent. Ulterior, drepturile fuseseră cumpărate de editură. Au apărut acuzații potrivit cărora autoarea ar fi folosit inteligența artificială în procesul de scriere. Apoi, editura a renunțat la publicarea ei, conform unei analize The Wall Street Journal.

Ballard a negat acuzațiile. Ea a explicat că AI-ul fusese folosit de o persoană care îi editase cartea. A specificat că nu a a folosit AI-ul pentru a scrie romanul. Echipa Hachette a transmis atunci că rămâne preocupată de protejarea creației originale și a autorilor umani.

Un alt caz a vizat romanul „Daggermouth”. Este vorba despre o poveste de dragoste distopică publicată inițial independent și cumpărată ulterior de Simon & Schuster, una dintre cele mai mari edituri americane. Cartea ajunsese în mod constant în clasamentele bestsellerurilor. Dar o analiză realizată de cercetătorul Tuhin Chakrabarty, de la Stony Brook University, a identificat ceea ce el consideră indicii ale utilizării AI. Analiza a folosit un instrument numit Pangram. Acesta încearcă să stabilească dacă un text a fost generat cu ajutorul inteligenței artificiale. Studiul nu fusese încă evaluat de alți cercetători. Autoarea cărții a respins acuzațiile și a spus public că nu consideră că AI-ul își are locul în procesul de scriere.

Simon & Schuster a apărat-o și a atras atenția asupra unei probleme importante, anume că instrumentele de detectare a AI pot produce rezultate greșite. „Nu credem că ar trebui trase concluzii despre opera unui autor pe baza instrumentelor de detectare a AI despre care s-a demonstrat că produc rezultate fals pozitive”, au transmis reprezentanții editurii.

Editurile sunt prinse între două interese

Marile edituri americane se află într-o poziție complicată. Pe de o parte, există presiunea de a proteja autorii și creația umană. Pe de altă parte, inteligența artificială ar putea deveni o sursă importantă de eficientizare și, în anumite condiții, de profit.

Cele mai mari cinci edituri americane, Simon & Schuster, Penguin Random House, HarperCollins, Hachette Book Group și Macmillan, nu au adoptat o poziție comună foarte strictă legată de folosirea AI. Unele dintre ele sunt, în același timp, implicate în procese împotriva companiilor de tehnologie care și-au antrenat modelele de inteligență artificială prin folosirea unor cărți protejate prin drepturi de autor.

Editurile reacționează mai degrabă de la caz la caz. Când un scandal devine suficient de mare pentru a afecta imaginea companiei, intervine editura. Această situație creează însă o zonă gri. Un editor poate accepta ca un autor să folosească AI pentru cercetare, pentru organizarea ideilor sau pentru corectare. Dar este considerat inacceptabil ca acesta să genereze pagini întregi din carte. Un alt editor poate avea reguli diferite.

Problema nu este doar cine a scris cartea

În ultimii ani, platformele digitale au fost inundate de volume ieftine, produse rapid și uneori cu foarte puțină valoare pentru cititor. În industrie, acest tip de conținut este numit uneori „slop”. Termenul este folosit pentru materiale generate în cantități mari cu ajutorul AI, fără prea multă muncă editorială și fără un aport creativ consistent.

Andy Hunter, fondatorul și directorul executiv al Bookshop.org, consideră că această problemă este chiar mai importantă decât disputa legată de fiecare autor în parte. În opinia lui, internetul este plin de cărți care încearcă să-i facă pe oameni să cumpere conținut plagiat, plin de informații false sau foarte superficial, generat de modele de limbaj.

Un studiu citat în analiza The Wall Street Journal a ajuns, de asemenea, la concluzia că aproximativ 20% dintre cărțile electronice Amazon din setul analizat prezentau un nivel „substanțial” de asistență AI. Amazon spune că are măsuri pentru eliminarea conținutului care încalcă regulile platformei.

Unde se termină instrumentul și începe autorul?

Inteligența artificială poate fi folosită în foarte multe moduri. Un scriitor poate cere unui model de limbaj să-i ofere informații pentru documentare. Îl poate folosi pentru a-și organiza ideile, pentru a găsi variante de structură sau chiar pentru a identifica greșeli. În aceste situații, autorul rămâne cel care scrie efectiv textul.

Situația este diferită atunci când un model generează paragrafe, scene sau capitole care ajung apoi în carte. Între cele două extreme există însă zeci de situații intermediare. Iar industria editorială nu a stabilit încă reguli clare pentru toate acestea. „Standardele în această privință nu există în acest moment”, spune Amanda Annis, agentă literară la Trident Media Group. „Există atât de multă zonă gri care încă nu a fost clarificată”, adaugă ea.

Unele agenții preferă să nu pună întrebări despre AI și speră ca problema să nu apară. Altele au adoptat o poziție mult mai dură. Refuză să reprezinte autori care folosesc AI, chiar și pentru documentare. Există și agenți care folosesc programe de detectare a AI pentru a verifica manuscrisele primite. Numai că și aceste programe pot greși.

Agenții literari au ajuns să joace rolul de „polițiști”

O mare parte din presiunea acestei situații cade pe agenții literari. Aceștia fac legătura între scriitori și edituri. Ei citesc manuscrise, reprezintă autorii și negociază contractele. Acum, unii dintre ei simt că trebuie să verifice și dacă scriitorii spun adevărul despre modul în care și-au realizat cărțile. „Cred că agenților și editorilor li se cere acum, practic, să fie polițiști”, spune Emma Dries, agentă la Triangle House Literary. Ea spune că primește mai multe manuscrise decât înainte. Suspectează că o parte dintre ele sunt trimise în masă de persoane care folosesc modele de limbaj pentru a produce rapid texte și solicitări către agenți.

Un alt agent, Angeline Rodriguez de la WME, spune că unele dintre manuscrisele primite în ultima perioadă sunt atât de slab scrise încât, prin comparație, romanul „Fifty Shades of Grey” pare literatură de nivelul lui Tolstoi. În același timp, agenții se tem și de situația opusă. Ei se tem să respingă un autor care a scris singur cartea doar pentru că un program de detectare a AI a identificat în mod greșit textul ca fiind generat de o mașină.

De ce este atât de importantă problema drepturilor de autor?

Există, totuși, o limită juridică ceva mai clară. Textele generate exclusiv de inteligența artificială nu pot beneficia de protecția drepturilor de autor în Statele Unite. Asta înseamnă că, dacă o carte este produsă integral de un sistem AI fără suficientă contribuție creativă umană, apar probleme serioase legată de protecția ei juridică.

În rest, lucrurile devin mult mai complicate. „Cu toții încercăm să elaborăm reguli pe măsură ce lucrurile evoluează, dar chiar pare că problemele sunt diferite luna aceasta față de luna trecută”, spune Hannah Bowman, agentă literară și coordonatoare a comitetului pentru AI al Association of American Literary Agents.

„Autor uman”, noua etichetă pentru cărți

Authors Guild, cea mai importantă organizație profesională a scriitorilor americani, a introdus o certificare „human authored” („scris de un autor uman”). Scriitorul poate aplica această mențiune pe carte după ce declară că lucrarea a fost realizată de el, în condițiile stabilite de organizație. Soluția are însă o limită evidentă, căci se bazează pe declarația autorului.

Dacă cineva poate minți, certificarea nu rezolvă complet problema. De aceea, unii reprezentanți ai industriei consideră că un simplu sistem bazat pe încredere nu este suficient pentru a face față fenomenului.

Industria editorială a funcționat întotdeauna pe baza încrederii. Un autor îi spune editorului că textul este al lui. Un jurnalist sau un autor de nonficțiune garantează că informațiile sunt corecte. Un memorialist afirmă că evenimentele descrise s-au întâmplat în realitate.

De fiecare dată când izbucnește un scandal de plagiat sau se descoperă că un autor a inventat părți dintr-o autobiografie, această încredere este pusă la încercare. Inteligența artificială poate amplifica însă problema. AI-ul face mult mai ușor să produci rapid cantități mari de text și, în același timp, face mai dificilă stabilirea originii acelui text.