COOLna

Pamatuji si, že prakticky každý rok (počínaje rokem 2005) jsem musel někomu vysvětlovat, že na internetu se nedá ničemu věřit. Tehdy to byly falešné blogy, následovaly falešné recenze, falešné e-maily, pak falešné profily na sociálních sítích, falešné fotografie, falešná videa…

Ale pořád se najdou lidé, kteří si neuvědomují, co všechno lze zfalšovat. Navíc se cena takového falšování neustále snižuje. Vždycky platilo, že jde vytvořit důvěryhodně vypadající kompromitující fotomontáže. Jenže zatímco dříve na to byl potřeba celý štáb lidí a tým specialistů, dnes totéž zvládne středoškolák na notebooku během přestávky na oběd.

A za poslední rok se hranice toho, čemu lze spolehlivě věřit, opět posunuly. Dříve platilo, že jsme si mohli být poměrně jistí, že za pěti odstavci smysluplného textu stojí lidská práce. Text býval důkazem toho, že někdo tématu věnoval čas a úsilí. Z toho důvodu se žánr eseje používá na školách, a proto chtějí firmy od uchazečů motivační dopis. Byl to důkaz vynaložené energie. Dnes je to leda tak důkaz toho, že někdo zvládl základy práce s ChatGPT.

Důsledky budou ale mnohem rozsáhlejší. „Většina z nás vyrostla ve světě, kde slovo tisk bylo něčím autoritativním. A proto ho tak stále vnímáme,” řekl Daniel Huttenlocher z MIT na diskuzním panelu na Aspen Ideas Festival v Coloradu.

„Umělá inteligence je nyní obrovskou připomínkou toho, že byste neměli věřit ničemu, co čtete. A mimochodem, neměli byste věřit žádným obrázkům a videím a neměli byste věřit ani žádnému zvuku,” dodává Huttenlocher.

Panelu se účastnil i bývalý šéf firmy Google Eric Schmidt. Ten zdůraznil, že Amerika příští rok zažije „první AI kampaň” při nadcházející prezidentské volbě. „Každá strana, každá občanská skupina a každý politik využije generativní umělou inteligenci, aby poškodil své oponenty,” uvedl Schmidt.

A opět platí, že není možné tomuto trendu zabránit. I kdyby všichni online poskytovatelé generativní umělé inteligence nyní vypnuli své servery, dál by existovaly open-sourcové modely, které si může kdokoli rozběhnout u sebe na počítači.

Nevidím tedy žádnou snadnou cestu z této situace. Musíme si zvyknout na to, že počítače už umí generovat zvuky, videa, fotografie i texty. Zkušenosti z posledních dvaceti let navíc napovídají, že lidé se nebudou umět novým podmínkám přizpůsobovat tak rychle jako podvodníci, hackeři a manipulátoři.

Věřím ale, že alespoň pro některé lidi tato nová situace podtrhne důležitost spolehlivých a důvěryhodných zdrojů. Ve světě, kde kdokoli může vygenerovat jakýkoli text na jakékoli téma, si už totiž nemůžeme vybírat, komu budeme důvěřovat, jen na základě prvního dojmu. Ten ztratil svou průkaznost. A tak se budeme muset naučit pamatovat si, komu jsme věřili v minulosti a zda se nám to vyplatilo.

Pavel Kasík

Udělej mi radost a pozvi mě na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.