Propaganda tăcută. Cum ne modelează algoritmii realitatea și deciziile

De cele mai multe ori credem ca luăm decizii singuri și neinfluențați de factori externi. Dar dacă realitatea este alta? Într-o eră în care informația se răspândește instantaneu, manipularea modernă a căpătat trăsături complet noi. Ea nu mai ia forma mesajelor stridente din spațiul public, ci se infiltrează discret în ecranele noastre prin intermediul feed-ului de știri. Utilizatorii contemporani rareori conștientizează că deciziile lor online sunt influențate subtil de ordinea în care conținutul este livrat de algoritmi. Aceste sisteme complexe sunt concepute să anticipeze reacțiile emoționale și să adapteze fluxul de informații pentru a menține atenția utilizatorilor.

Amploarea fenomenului este globală și îngrijorătoare. Datele furnizate de Institutul Oxford pentru Internet indică faptul că propaganda digitală este folosită în minimum 70 de state pentru influențarea opiniei publice. Această realitate ne obligă să ne întrebăm cât de aproape este momentul în care algoritmii vor lua decizii în locul nostru.

Puterea invizibilă a datelor și cunoașterea utilizatorului

Putem afirma fără exagerare că marile companii tehnologice, precum Google și Facebook, cunosc utilizatorii mai profund decât cercul lor apropiat. Companiile colectează cantități uriașe de date care servesc drept combustibil pentru sistemele de inteligență artificială (AI). Un studiu a demonstrat faptul că un simplu buton de „like” poate fi folosit pentru a prezice caracteristici extrem de personale, cum ar fi orientarea sexuală, etnia, opiniile religioase și politice, nivelul de inteligență, starea de fericire și chiar situația familială.

Această extragere de informații nu se oprește la interacțiunile directe. Căutările, click-urile și postările participă la construirea unui profil digital detaliat al utilizatorului. Prelucrarea informațiilor de către algoritmi face ca viața privată să devină un bun exploatat comercial. Dincolo de impactul social, inteligența artificială poate conduce la inegalități în sectoare-cheie precum piața muncii sau sănătatea.

Mecanismele manipulării prin AI

Amenințarea reprezentată de inteligența artificială în manipularea comportamentului uman este o zonă încă insuficient explorată, dar extrem de eficientă. Fuziunea dintre marketing și inteligența algoritmică a oferit firmelor un nivel de control fără precedent. Companiile digitale pot regla contextul și momentul reclamelor, vizând indivizii la un nivel atât de personalizat încât manipularea devine aproape imposibil de detectat.

Algoritmii exploatează prejudecățile umane și stările de vulnerabilitate emoțională. De exemplu, un sistem poate sesiza stări precum oboseala sau tristețea și poate promova produse sau servicii care rezonează cu acele emoții temporare. Acest tip de publicitate este adesea însoțit de tactici de design inteligent și discriminare prin prețuri, ghidând subtil utilizatorii către decizii care favorizează compania, nu consumatorul.

Succesul născut din momentele de vulnerabilitate

Lipsa transparenței este unul dintre principalele motive pentru care manipularea are succes. De cele mai multe ori, oamenii nu cunosc obiectivele reale ale algoritmilor sau ce se întâmplă cu datele lor personale. De la reclame extrem de personalizate la prețuri ajustate dinamic, realitatea confirmă aceste practici. Totodată, au existat acuzații potrivit cărora firmele de tehnologie își promovează propriile servicii în rezultatele căutărilor. Cercetările din 2021 sugerează că algoritmii detectează perioadele de slăbiciune emoțională ale utilizatorilor. În astfel de momente, oamenii sunt bombardați cu reclame pentru produse pe care le cumpără impulsiv, chiar dacă nu au neapărat nevoie de acestea. În final, strategia nu influențează doar modul în care oamenii cumpără, ci îi face să cheltuiască mai mult decât ar fi necesar.

Studiile confirmă faptul că inteligența artificială poate modela modul în care oamenii acționează. Într-un test din 2020, cercetătorii au demonstrat că un sistem de AI a reușit, în 70% din cazuri, să determine participanții să aleagă o anumită opțiune pe ecran, învățându-le tiparele de decizie. Într-un alt experiment, AI a arătat că poate crește rata erorilor umane prin manipularea subtilă a informațiilor afișate. Chiar și în simulări financiare, unde AI juca rolul unui administrator de fonduri, sistemul a convins oamenii să investească sume mari, indiferent dacă urmărea profitul propriu sau un rezultat echitabil. Concluzia centrală a acestor studii este că sistemele de inteligență artificială învață extrem de rapid din reacțiile oamenilor, descoperă punctele slabe din modul lor de decizie și devin capabile să ghideze persoanele către acțiuni specifice într-un mod extrem de convingător.

Transparență și reglementare

Pentru a reduce aceste riscuri, este esențial să existe reguli care să protejeze libertatea și autonomia oamenilor. Conform principiilor etice, inteligența artificială trebuie să fie un ajutor pentru oameni, nu un instrument de manipulare sau dominare. Primul pas vital este îmbunătățirea transparenței. Deși se spune adesea că algoritmii sunt misterioși, creatorii lor pot pune limite pentru a preveni manipularea. Problema reală este scopul pentru care au fost creați algoritmii. De multe ori, profitul companiei este prioritar.

Supravegherea de către oameni ajută la prevenirea folosirii algoritmilor în mod abuziv. Proiectele de lege europene propun mecanisme prin care furnizorii de AI să fie responsabili de rezultatele sistemelor lor. Transparența trebuie să fie clară și accesibilă, atât pentru utilizatori, cât și pentru autorități. Doar prin stabilirea unor reguli clare putem împiedica ca manipularea ascunsă să provoace pierderi oamenilor.

În practică, este destul de greu să distingi între recomandări utile, bazate pe preferințele tale, și tactici care ne limitează alegerile pentru profitul companiilor. De exemplu, Comisia Europeană a lucrat zece ani pentru a demonstra că un motor de căutare manipula rezultatele. Din cauza acestor dificultăți, creșterea gradului de conștientizare a oamenilor devine prioritară. Instruirea copiilor și adolescenților despre riscurile online este esențială pentru sănătatea lor mentală. Deși reglementările precum Legea privind inteligența artificială (AIA) a UE fac pași importanți, ele pun accent mai mult pe siguranța fizică și psihică decât pe pierderile economice subtile.

Experiența utilizatorului, ghidată din umbră

Fiecare dintre noi a experimentat momentul în care, dorind să vizioneze un singur episod pe o platformă de streaming, s-a trezit ore mai târziu încă în fața ecranului, din cauza redării automate. Pe Netflix, recomandările generează în jur de 80% din vizionări, iar pe Amazon, ele influențează 35% dintre cumpărături. Aceste platforme ne ghidează activ experiența, mascând sub formă de sugestii ceea ce algoritmii consideră că ne va ține captivi. Fiecare gest al nostru este analizat pentru a personaliza recomandările în timp real. TikTok, de exemplu, nu are nevoie de aprecieri. Sistemul observă cât timp privești un videoclip și cât de repede treci la următorul. Astfel, în doar câteva minute, aplicația știe ce te emoționează sau ce te interesează. Deși acești algoritmi nu sunt „răi”, scopul lor este să mențină oamenii implicați, adesea folosind emoții intense pentru a crește interacțiunea.

Riscul cel mai mare este că începem să ne pierdem capacitatea de a decide singuri. În politică, algoritmii funcționează ca niște megafoane ce ne întăresc propriile convingeri, limitând accesul la opinii diferite. Acest lucru duce la o separare profundă a societății, transformând dialogul în conflict. În consum, suntem ghidați de impulsuri statistice precum „clienți ca tine au cumpărat asta”, strategii care produc peste 30% din vânzările online. 

Această metodă colectează mai multe date decât este necesar, generând un așa-numit „surplus comportamental”. Alegerile noastre viitoare nu sunt doar prezise, ci precondiționate. Atunci când tehnologia alege ce știri să vedem, ce produse să cumpărăm sau cu cine să votăm, decizia umană devine un simplu click pe o cale deja trasată de algoritmi.

Cum putem prelua controlul?

Recuperarea autonomiei necesită un efort conștient. Este esențial să investigăm de ce ne sunt recomandate anumite postări, folosind setările de asistență ale platformelor. Pentru o imagine mai clară asupra lumii, merită să citim opinii contrare și să renunțăm la sortarea automată a postărilor în favoarea celei manuale. De asemenea, este foarte important să cerem legi care să oblige companiile să explice cum funcționează algoritmii lor. 

Utilizatorii ar trebui să aibă libertatea de a vedea tot ce se postează, fără ca un program să aleagă pentru ei. Tehnologia este utilă, dar dacă nu știm cum funcționează, ajunge să ne schimbe felul în care vedem lumea.