Myslíme si, že umelú inteligenciu rozpoznáme. A práve v tom je problém

Umelá inteligencia dnes nepomáha iba pri vyhľadávaní informácií či prekladaní textov. Píše články, vytvára reklamné kampane, generuje fotografie, videá aj príspevky na sociálne médiá. Dokáže pôsobiť profesionálne, presvedčivo a často až prekvapivo ľudsky.

Najväčšia zmena, ktorú AI priniesla do médií a marketingu, pritom nemusí byť samotná technológia. Je ňou strata samozrejmosti, že za každým textom, obrazom alebo videom stojí človek. Prestávame automaticky vedieť, kto je autorom obsahu, ktorý denne čítame, sledujeme a zdieľame. A spolu s tým prichádza otázka, ktorá je dôležitejšia než akýkoľvek nový nástroj, kto za obsahom stojí a kto zaň nesie zodpovednosť?

Výskum realizovaný na Fakulte masmediálnej komunikácie UCM v Trnave ukazuje, že odpoveď nie je taká jednoduchá, ako si väčšina ľudí myslí. Doktor Michal Kubovics v rozhovore priblížil zistenia vyplývajúce z projektu s názvom Tvorba a prijímanie obsahu generovaného umelou inteligenciou cieľovými skupinami v mediálnych štúdiách.

Dokážeme ešte spoľahlivo rozlíšiť, čo vytvoril človek a čo umelá inteligencia?

Úprimne, bez jasného označenia to vo väčšine prípadov nedokážeme. Ľudia majú pocit, že AI obsah spoznajú okamžite. Povedia si: „Toto je príliš uhladené,“ alebo naopak: „toto znie zvláštne, určite to písal stroj.“ Výskum však ukázal, že keď sa ľudia rozhodovali iba podľa intuície, úspešnosť rozpoznania obsahu vytvoreného umelou inteligenciou bola približne 36 percent. To nie je zlyhanie jednotlivcov. Je to dôkaz, že naša intuícia vznikala v inom digitálnom svete.

Pred pár rokmi sa automaticky vytvorené texty dali často spoznať podľa kostrbatého štýlu, opakovaných formulácií či nelogických viet. Dnes to už neplatí. Generatívna AI dokáže vytvoriť jazykovo čistý, štruktúrovaný a profesionálne pôsobiaci obsah. Vie napodobniť odborný jazyk, marketingový tón, formálnu komunikáciu aj emocionálne ladenie. A práve v tom je problém. Profesionálny vzhľad sa nám prirodzene spája s dôveryhodnosťou. Lenže text môže byť bez chýb, mať dokonalú štruktúru a stále byť nepresný, neúplný alebo zavádzajúci.

Čo teda ľuďom pomáha najviac?

Transparentnosť. Keď bol obsah jasne označený ako vytvorený s pomocou umelej inteligencie, úspešnosť ľudí pri rozpoznávaní jeho pôvodu sa zvýšila približne na 97 percent. To ukazuje, že označenie AI obsahu nie je iba formalita niekde pod príspevkom. Je to orientačný bod. Ľuďom netreba prikazovať, čomu majú veriť. Potrebujú mať možnosť rozhodovať sa informovane. A na to musia vedieť, ako obsah vznikol, kto sa na jeho tvorbe podieľal a kto za jeho zverejnenie ručí.

Transparentnosť pritom nemá znamenať, že všetko, čo vzniklo s pomocou AI, je automaticky zlé alebo menejcenné. Umelá inteligencia môže byť užitočným nástrojom. Môže šetriť čas, pomáhať s rešeršou, analyzovať dáta, pripravovať návrhy či zrýchliť rutinnú prácu. Problém nevzniká pri samotnom použití technológie. Problém vzniká vtedy, keď sa za ňu niekto začne skrývať.

Znamená označenie AI obsahu, že mu ľudia automaticky menej veria?

Nie vždy. A práve tu sa ukazuje zaujímavý paradox. Texty vytvorené umelou inteligenciou ľudia často hodnotia ako profesionálne, odborne pôsobiace a dobre spracované. Niekedy môžu dokonca vyzerať kvalitnejšie než texty vytvorené človekom. Zároveň ich však ľudia vnímajú ako menej pútavé, menej osobné a menej zapamätateľné. Majú menšiu chuť dočítať ich až do konca a slabšie ich emocionálne oslovujú.

AI vie vytvoriť obsah, ktorý vyzerá kvalitne. Nie vždy však vytvorí obsah, ktorý v človeku zostane. Profesionalita totiž nie je to isté ako presvedčivosť. Silný text nevzniká len zo správnych viet, vhodného tónu a dobrej štruktúry. Vzniká aj zo skúsenosti, pozorovania, nadhľadu, odvahy povedať niečo nečakané a z detailu, ktorý si všimol konkrétny človek.

Umelá inteligencia vie pracovať s jazykom. Nemá však vlastnú spomienku, osobný príbeh ani skutočnú skúsenosť so svetom. A hoci to čitatelia nevedia vždy presne pomenovať, často túto absenciu vycítia.

Čo to znamená pre marketing a médiá?

Že AI by nemala nahradiť tvorivé myslenie. Mala by ho podporovať. Najhorší scenár je, keď organizácia začne produkovať viac obsahu, ale menej hodnoty. Viac príspevkov, viac kampaní, viac textov, no zároveň menej originality, menej nápadov, menej dôvery a menej zodpovednosti.

Umelá inteligencia je výborná pri prvých návrhoch, rešeršiach, sumarizácii, analýze dát alebo pri rutinnej tvorbe. Môže pomôcť odstrániť prázdnu stranu dokumentu, zrýchliť prípravu podkladov alebo ponúknuť alternatívne formulácie.

Človek však musí zostať pri tom najdôležitejšom: pri výbere tém, interpretácii, kontrole faktov, editovaní, rozhodovaní o tóne komunikácie a najmä pri posúdení, či má daný obsah vôbec zmysel publikovať. AI môže pripraviť prvý návrh. Človek musí priniesť dôvod, prečo by mal niekoho zaujímať.

Ľudia sa obávajú dezinformácií. Premieta sa tento strach aj do toho, ako vnímajú konkrétny obsah?

Nie tak priamo, ako by sme očakávali. Mnohí ľudia vnímajú dezinformácie spojené s AI ako vážnu hrozbu. Majú obavy z falošných správ, zmanipulovaných videí, umelo vytvorených fotografií či podvodných správ v mene známych osobností. Zároveň sa však ukazuje, že samotná obava z dezinformácií ešte automaticky neznamená väčšiu opatrnosť pri konkrétnom príspevku, článku alebo reklame.

Keď ľudia hodnotia obsah, často sa rozhodujú podľa iných signálov. Či poznajú zdroj. Či text pôsobí profesionálne. Či zapadá do ich skúsenosti. Či potvrdzuje niečo, čomu už veria. Preto nestačí iba varovať pred dezinformáciami. Dôležitejšie je budovať prostredie, v ktorom je dôvera viditeľná priamo v komunikácii. Prostredie, kde je jasné, kto hovorí, prečo hovorí, z akých zdrojov vychádza a kto nesie následky za chybu alebo zavádzajúci kontext.

Nie je označovanie AI obsahu iba čiastočné riešenie?

Je. Samotné označenie nevyrieši všetko. Nemôže nahradiť kritické myslenie, kvalitnú žurnalistiku, mediálnu gramotnosť, etiku značiek ani zodpovednosť autorov. Má však zásadný význam, pretože dáva ľuďom informáciu, ktorú bez označenia často nedokážu spoľahlivo získať sami.

Označenie by nemalo fungovať ako výstraha: „Pozor, toto vytvorila AI.“ Malo by fungovať ako základný znak férovej komunikácie: „Tento obsah vznikol s pomocou umelej inteligencie, ale niekto ho kontroloval, schválil a nesie zaň zodpovednosť.“ To je rozdiel medzi technológiou, ktorej sa bojíme, a technológiou, ktorej dokážeme rozumne veriť.

Ako sa na AI pozerajú ľudia, ktorí s ňou pracujú každý deň?

Zaujímavé je, že skúsení používatelia AI nebývajú nekritickí nadšenci. Čím viac s technológiou pracujú, tým lepšie vidia jej prínosy aj limity. Vedia, že im môže šetriť čas, pomáhať pri návrhoch, rešeršiach, analýzach a opakovaných úlohách. Zároveň si však uvedomujú, že bez pravidiel, transparentnosti a ľudského dohľadu môže technológia poškodiť dôveru v celé komunikačné prostredie.

Realita teda nie je rozdelená na dva tábory: na tých, ktorí chcú AI všade, a na tých, ktorí by ju najradšej zakázali. Mnohí ľudia chcú AI používať. Chcú však vedieť, kde sú jej hranice a kto preberá zodpovednosť, keď niečo zlyhá.

Prečo musí zostať posledné slovo človeku?

Pretože obsah nie je iba text, obrázok alebo video. Obsah môže ovplyvniť nákupné rozhodnutie, reputáciu človeka, vzťah k značke, dôveru vo verejnú inštitúciu aj pohľad na spoločenské a politické témy. AI môže vytvoriť presvedčivý výstup, ale sama nepreberá zodpovednosť za chybu, nepresnosť, necitlivosť či škodu, ktorú môže spôsobiť. Za obsah musí niesť zodpovednosť človek alebo organizácia, ktorá ho publikuje.

Pre médiá to znamená overovanie faktov a redakčnú kontrolu. Pre značky zodpovednosť za tón a pravdivosť komunikácie. Pre verejné inštitúcie povinnosť nevnímať AI ako výhovorku typu: „Systém to tak vytvoril.“ Dôvera vzniká tam, kde je jasné, kto stojí za slovami a kto je pripravený za ne ručiť.

Aký je hlavný odkaz vášho výskumu?

Nie je to súboj človeka proti umelej inteligencii. Je to otázka pravidiel, dôvery a zodpovednosti v svete, kde bude čoraz jednoduchšie vytvoriť presvedčivý obsah a čoraz ťažšie odhaliť jeho pôvod. Budúcnosť médií a marketingu nebude patriť tým, ktorí dokážu vyrobiť najviac textov, obrázkov a videí. Bude patriť tým, ktorí dokážu vytvoriť obsah, ktorému ľudia rozumejú, dokážu mu veriť a vedia, kto za ním stojí. Najsilnejšou menou budúcnosti totiž nebude množstvo obsahu. Bude ňou dôvera.

Článok vznikol ako výstup projektu č. 09I03-03-V04-00367, podporeného Európskou úniou z prostriedkov NextGenerationEU v rámci Plánu obnovy a odolnosti Slovenskej republiky.