Tudor către agenții: atenție la AI

De câte ori aud de „îmbrățișează AI-ul”, „nu vei fi înlocuit de AI ci de cineva care știe să folosească AI”, „care este journey-ul tău în AI?” și alte flatulențe intelectuale, mă duc la cufărul cu zâne, îl deschid, prind o zână și o prizez (context pentru cei care nu au văzut filmul). Îmi amintesc cu drag de maxima „a fool with a tool is still a fool”, care la AI devine „a fool with an AI tool is a hyper-speed failing fool”.

AI-ul nu este ceva nou.

Așa cum spun la cursurile mele de AI (moment publicitar), AI-ul nu este ceva nou. A apărut prin anii 50, iar în 1956, la Dartmouth Summer Research Project on Artificial Intelligence, AI-ul a devenit materie de studiu oficială. Deci putem spune că AI-ul are cam aceeași vechime cu IT-ul. De ce a evoluat atât de greu și de încet este subiect de studiu la curs, deci haideți.

Riscurile privind AI-ul s-au observat încă din primii ani, mai ales odată cu apariția algoritmului ELIZA în 1966, un program bazat pe natural language processing (NLP – nu, nu nelepeu’ dă la coceală): discriminare (creat pentru a discuta cu persoane caucaziene), părtinire, acuratețe (genera și tâmpenii). Dar cea mai mare problemă a fost efectul ELIZA, prin care programului, într-un mod inconștient, i-au fost atribuite de către utilizatori caracteristici umane precum empatie, înțelegere semantică, experiență. Deseori utilizatorii au devenit dependenți de program, vorbind cu acesta așa cum ar face-o cu un om.

Generative AI – bucurați-vă cât mai puteți.

Sărim niște decenii, de la ELIZA la ChatGPT și AI generativ de muzică, imagini, video. Catalizatorul AI-urilor din familia Deep Learning (din care fac parte și generativele) a fost cloud-ul, ce a permis algoritmilor să acceseze resurse tehnice aproape infinite, limitate doar de posibilitățile financiare ale investitorilor. OpenAI este o fundație, puternic finanțată, ce dispune de resurse uriașe și care oferă utilizatorilor posibilitatea de a utiliza ChatGPT fie gratis, fie plătit (cu două abonamente – 20$/lună, 200$/lună). Abonamentele nu acoperă nici banii de semințe, așa încât fundația se gândește deja la un abonament de 20.000$ pe lună.

AI-ul generativ costă și costă mult, de aceea dacă nu se găsesc mai repede soluții care să îl facă viabil economic, o să vedem niște decizii dure în acest sector.

Un alt risc însă este reprezentat de convergența rezultatelor și de calitatea output-urilor, dar tratăm acest risc mai jos. Ce voiam să vă zic este că acum este momentul să vă bucurați de AI-ul generativ, la cum evoluează lumea s-ar putea să vedem niște surprize.

Dependența de AI generativ – un risc sistemic.

Lucrând cu mulți clienți, atât în proiecte cât și la cursuri, sap să înțeleg cum folosesc AI-ul generativ. Unii timid, alții organizat, unii gratuit, alții abonamente în cloud dedicat sau implementări locale. Am văzut foarte multe abordări, multe ilegale (urcarea datelor confidențiale în ChatGPT mi se pare ceva de bezna minții) însă toate au în comun un singur lucru: creșterea dependenței de AI-ul generativ.

Riscul sistemic este unul prezent pe mai multe dimensiuni:

• Încredere oarbă în rezultate. AI-ul generativ minte sau „halucinează” cum se zice în industrie. Halucinațiile nu sunt erori, sunt „by-design” întrucât modelele actuale de AI generativ sunt modele narrow, adică fac un singur lucru bun. Un model large language model nu face decât să „prezică” următorul cuvânt dintr-o frază. Sistemele AI care își verifică rezultatele folosesc abordări multi-agent, adică mai multe AI-uri ce comunică între ele. Însă halucinația este un efect, nu o eroare și nu poate fi eliminată complet niciodată. Așa că trebuie să ai mecanisme de detecție și tratare rapidă a lor. Cu asta ne ocupăm noi la Tudor Galoș Consulting, printre multe altele (nou moment publicitar). Apropo de asta, la curs am un exemplu de corupere a unui model LLM public.
• Data breach-uri. Datele urcate în sisteme generative publice, precum ChatGPT, Claude.AI, Llama etc pot fi cache-uite și expuse în momente complet aiurea către alți utilizatori. Iată un exemplu prin care date de training au fost expuse. Deci dacă urci date confidențiale, inclusiv date personale, faci data breach.
• Convergența rezultatelor. Un studiu din 2022 de la Universitatea din Kyoto arată ceva ce statistic era clar că se va întâmpla, anume faptul că generativele încep să genereze conținut convergent, similar cu conținutul deja generat. Logica este simplă: oamenii generează conținut, îl urcă pe internet, este reingerat, procesat, iar se generează ceva și pe baza lui, iar e publicat, iar este reingerat. Se formează niște „căi bătătorite”. Exemplu: băgați pe ChatGPT, Copilot și Grok promptul „scrie un eseu despre Mihai Eminescu” și vedeți de câte ori vă apar „Luceafărul poeziei românești”, „poetul nepereche”, „poetul național”. Plus o structură similară. La curs avem exemple și mai sexy :).
• Încălcarea copyright-ului. Acesta este un risc nou și afectează grav agențiile de creație, de marketing și de PR de peste tot din lume. Modelele actuale generative au ingerat mult conținut protejat de copyright și deja sunt multe procese pe rol. Însă probabil nu vă gândiți că acest aspect vă poate afecta însă credeți-mă, vă afectează mai mult decât credeți. În 2017, Curtea de Apel din Paris tranșa unul dintre cele mai dificile cazuri de încălcare de copyright. O companie reprodusese o poză a lui Jimi Hendrix, ce ținea o țigară în mână, înlocuind țigara cu un vape produs de ei. Întrucât poza nu era copiată ci doar reprodusă, au spus că nu este protejată de copyright, însă au pierdut definitiv la apel. Gândiți-vă acum că un AI generativ generează conținut „asemănător” – poză, film, text – cu o operă protejată de copyright.

Toate aceste riscuri trebuie analizate nu doar bidimensional (probabilitate de manifestare și impact) ci cel puțin tridimensional (se adaugă viteza de manifestare). Dar ce se poate întâmpla rău cu agențiile de creație, PR și marketing?

AI-ul poate aduce moartea agențiilor.

Ok, subtitlul este un pic panicard, dar riscul este foarte mare. Discutând cu prieteni vechi din industria de creație, și ei (și eu) sunt panicați de cât de mult se folosește AI-ul generativ în propunerile de layout-uri, vizualuri, strategie și copywrite. Mai mult, se folosește conținut generat „la prima mână”, fără prea multe rafinări în thread-uri de conversație, fără intervenția „umană” absolut necesară. Și AI-ul are niște „semnături” vizibile, pe care le vede orice client, cu un minim de efort.

De ce să dea clientul sute/mii de EUR pe o creație, când MidJourney i-o poate face în câteva secunde, repetat, pe orice format, la 20 EUR/lună? De ce să plătească copywriting dacă ChatGPT îi generează texte optimizate SEO, cu ce tonalitate dorește, pentru 20$ pe lună? Și aici efectiv mă doare capul, fiindcă directorii de creație stau cu capul în nisip și se prefac că nu văd cum firma le este făcută arșice de AI-ul folosit prost.

Să ne înțelegem: este perfect OK să scrii un text cu ajutorul AI, sau să folosești AI în procesul de creație. Dar așa cum spun și la curs, folosește-l să te ajute, NU SĂ TE ÎNLOCUIASCĂ! E ok să folosești pentru o strategie formatul propus de ChatGPT, dar nu conținutul! Este OK să folosești o rută creativă indicată de MidJourney sau Dall-E, dar nu lua imaginea as-is! Repet, toate generativele au o „semnătură” pe care orice specialist o „miroase”.

Chiar dacă credeți că partea cu încălcarea de copyright nu vă afectează încă, gândiți-vă cât de penibili ați ieși dacă ați propune o campanie gândită de ChatGPT, cu texte gândite de ChatGPT și cu imagini generate de Dall-E sau MidJourney și vine clientul și vă arată originalul de unde s-au inspirat roboții? Campanii similare, eventual și cunoscute?

Nivelul de creativitate al generativelor scade și este absolut normal și verificabil științific. Nu o spun eu, o spune matematica statistică ce stă în spatele algoritmilor de AI. Generativele fac șaorme din conținutul existent, combinând elemente până când iese ceva viabil (sau nu, că nu verifică ele nimic de obicei), dar asta nu este creativitate! Pe măsură ce tot mai mult conținut generat de AI este reingerat de către AI, variațiile vor deveni (statistic) minimale și tot ce se va putea genera va fi generat.

Drept urmare, folosiți-vă umanitatea pentru a crea valoare pentru clienți, altfel da, veți fi înlocuiți.