Žijeme v éře, kde realitu ověřuješ déle, než trvá napsat lež: Vítejte ve zlatém věku Deepfakes

Technologický pokrok je krásná věc. Jenže místo, abychom pomocí AI léčili nemoci, používáme ji k tomu, abychom digitálně zmanipulovali videa a nahradili hlasy politiků v komických, ale nebezpečně uvěřitelných scénkách. V současnosti se nacházíme v analyticky fascinující, ale sociálně katastrofální situaci: Vytvořit naprosto přesvědčivý deepfake stojí zlomek času a peněz, než kolik stojí jeho ověření. Je to infekční dezinformační asymetrie. Ironie spočívá v tom, že čím uvěřitelnější lež je, tím rychleji se šíří, protože lidský mozek je naprogramován reagovat na silné emoce, nikoli na nudný fakt-checking.

A zde přichází ten sarkastický kopanec: My se sice snažíme vzdělávat veřejnost v mediální gramotnosti, ale to je jako učit lidé plavat v době, kdy už stojí uprostřed digitálního oceánu, kde na ně útočí podvodné velryby generované umělou inteligencí. Dříve jsme si lámali hlavu, zda je ta fotka pořízená z dobrého úhlu, dnes se musíme ptát, jestli ten člověk, který k nám promlouvá z obrazovky, vůbec existuje. Nejlepší na tom je, že jediný, kdo z tohoto chaosu profituje, je samotná technologie, která nás nutí neustále konzumovat a pochybovat. Je to dokonalá past: Čím méně věříme, tím více klikáme, abychom zjistili, co je ještě pravda.

Digitální detox? Kdepak. Budoucí generace dostala návod na život od robota, který prodává protein

Vstupujeme do éry, kdy je hranice mezi skutečným člověkem a generativní umělou inteligencí tenčí než platový výměr průměrného učitele. Sociální sítě jsou zaplaveny virtuálními influencery – dokonale naskenovanými a vyrenderovanými figurami, které nikdy nemají špatný den, špatný úhel, ani neplatí daně. Analyticky vzato, pro marketingové oddělení je to geniální tah: dokonalá kontrola značky, žádné skandály s alkoholem a maximální efektivita prodeje. Pro mladou generaci je to ale toxické zrcadlo, které promítá nedosažitelnou iluzi. Sledujeme modelky, které nejedí, fitness guru, kteří nemají svalovou horečku, a cestovatele, kteří neplatí letenky.

Sarkasmus stranou: Média už dávno přestala prodávat realitu a teď se k tomu přidávají i sociální sítě. Dříve nás štvala filtrace fotek, dnes se musíme vyrovnat s tím, že filtr je celá ta osoba. Je to v podstatě dokonalé alibi pro naši vlastní nedokonalost: Proč se snažit, když ideálem je bytost bez metabolismu, za kterou stojí tým programátorů a psychologů? Můžeme se sice smát, jak jsou děti naivní, ale systém, který je učí, že skutečnou hodnotu má jen digitální avatár, je problém, který by neměl být jen virální, ale měl by být léčen.

Velký bratr klepe na Messenger: Vítejte v Evropě, kde je vaše soukromí jen volitelná funkce

Evropská unie opět dokázala, že její nejoblíbenější koníček je řešit jeden problém vytvořením pěti nových. Nejnovějším hitem, který hrozí explodovat v naší digitální peněžence i soukromí, je takzvaná regulace CSAM, eufemisticky přezdívaná „šmírovací zákon“ nebo "Chat Control". Cíl je samozřejmě naprosto ušlechtilý – ochrana dětí před zneužíváním. Kdo by s tím nesouhlasil? Jenže cesta, kterou Brusel volí, připomíná pokus o sterilizaci operačního sálu pomocí atomové bomby. Místo abychom řešili skutečné bezpečnostní díry, zvažujeme, že preventivně projdeme každou vaši konverzaci. Analyticky vzato, to je geniální řešení pro byrokrata, ale noční můra pro svobodného občana.

Podstata kompromisu, který poslal legislativu do finálního vyjednávání, je stejně křehká jako lednová dlažební kostka. Místo povinné plošné kontroly se sice mluví o kontrole "dobrovolné," jenže v digitálním světě znamená "dobrovolná kontrola" to samé, co "nezbytně nutná daň" v politickém slovníku. Představme si, že každá aplikace – od WhatsAppu po váš soukromý mail – dostane trvalé povolení skenovat, co si píšete. Nejen, že to ohrožuje šifrování, základ naší online bezpečnosti, ale otevírá to Pandořinu skříňku. Dnes je to CSAM, zítra dezinformace, pozítří nesprávný mem. Evropa si zkrátka myslí, že dokáže postavit „Velkého bratra“, který bude sledovat jen ty zlé. To je ovšem hluboce naivní předpoklad, který nás stál svobodu už mnohokrát.

Právníci a aktivisté bijí na poplach, a to zcela oprávněně. I po osekání zůstává základní princip: Stát má právo prohrabat se ve vaší digitální korespondenci, pokud se mu to hodí. Měli bychom si uvědomit, že v éře AI se jednou vytvořený precedens stává okamžitě trvalou a levnou realitou. Můžeme sice děkovat za digitální bezpečnost dětí, ale měli bychom se ptát, zda za to platíme cenou, za kterou se kupuje tichá poslušnost – naší svobodou a soukromím. Příště, až si budete psát s babičkou o receptech, nezapomeňte, že na druhé straně možná sedí algoritmus s lupou a čeká na vaši hrozbu terorismem v podobě extra špetky pepře.