COOLna

Papež František oblečený v dlouhé sněhobílé péřové bundě byl zatím asi nejnázornější ukázkou toho, co nás všechny za chvíli čeká. Obrázek vytvořený umělou inteligencí dokázal svou věrohodností zmást spoustu internetových uživatelů, než bylo definitivně jasno, že fotka není skutečná.

Někteří ho označují za první skutečně masově šířenou dezinformaci vytvořenou umělou inteligencí. Bude hůř? Jistě. Dá se na to připravit? Kdoví.

„Příběh o Babylonské věži, který se objevuje v Bibli, popisuje, jak lidé hledali slávu a moc tím, že se rozhodli postavit vysokou věž v Babylóně, která by dosahovala až k nebi. Podle biblického příběhu Bůh rozptýlil lid a změnil jejich jazyky, aby nemohli spolupracovat na svých projektech a rozptýlil je po celém světě. Tento příběh symbolizuje ztrátu jednoty a společného cíle lidstva.“

Předchozí odstavec napsala umělá inteligence po otázce: „Co nastalo po postavení babylonské věže?“ Zatím na první dojem ze všeho nejvíc připomíná studenta u maturitní zkoušky, který mechanicky a neosobně odříkává narychlo naučené fráze, které záhy zapomene, ale to podstatné trefila.

Lidská touha, nebo možná troufalost a pýcha, dotknout se vlastním úsilím nebes a vyrovnat se božskému byla ztrestána neporozuměním, odcizením a chaosem. Ostatně jak dokáže dohledat umělá inteligence: „Slovo „Babel“ (česky Babylon – poznámka neumělé inteligence autora) pochází z hebrejského slova ‚Bavel‘, které se používá v Bibli a znamená ‚změstnání‘ nebo ‚zmatek‘. V hebrejštině se slovo ‚Bavel‘ stalo symbolem pro cokoli, co způsobuje zmatek a neřád.“

Umělá inteligence se může stát nejdokonalejším zpodobněním biblického babylonského příběhu. A to jak ve své téměř božské rovině, tak ve svých důsledcích. Množství sdělení, informací, významových spojení v textové i vizuální podobě začíná stoupat geometrickou řadou a tato kvantita se nemůže nestat novou kvalitou, byť paradoxně může vést spíše ke kvalitativnímu poklesu, protože lidská mysl nebyla stavěná na absorbci takového množství podnětů. Zásadní zlom je na spadnutí (jako babylonská věž) už dnes i bez umělé inteligence, ovšem teprve s ní začíná ta pravá jízda.

Nechme teď stranou, do jaké míry se umělé inteligenci podaří nahradit lidské profese. Lze se obávat, že její důsledky budou mnohem dramatičtější v jiném ohledu – ve zmatku, který nám všem způsobí –, a to v lidské komunikaci, sdílení hodnot a měřítek, soudržnosti společnosti a schopnosti vnímat, analyzovat a reagovat.

První komunikační revolucí byl knihtisk, protože způsobil skok jak v možnostech produkce, tak v šíření a uchovávání obsahu (lze k tomu jen doporučit příslušnou kapitolu ve skvělé knize Německo – vzpomínky jednoho národa od Neila MacGregora). Druhou byl internet, který dosavadní komunikační možnosti umocnil na druhou. A lidstvu se s nimi zdaleka ještě nepodařilo správně vypořádat. A do toho přijde třetí, možná čtvrtá nebo desátá mocnina v podobě umělé inteligence.

Zatímco knihtisk odstranil limity ručně psaného textu, který mohla tvořit a rozmnožovat jen nejužší vrstva gramotných, internet bariéru vstupu pro produkci obsahu a vzájemnou komunikaci snížil na absolutní minimum, leckomu stačí jen emotikon. Ovšem umělá inteligence poskytne kromě přístupu k síti navíc přesvědčivé schopnosti prakticky komukoliv a setře mezi lidmi zbývající sebeprezentační rozdíly.

Vědec, laik, novinář, politik, píárista, troll, dezinformátor – poznat rozdíl mezi nimi bude ještě obtížnější než dnes, kdy zbývají poslední rozpoznatelné stopy vzdělání, profesní minulosti, odborné kredibility a intelektuálních zásluh. A leckdo o to ani nebude stát. Už teď na tom spoustě lidí nezáleží, vždyť co je doma, to se počítá, co slouží naší věci, to lze využít, covidová éra to ukázala v plném světle. I nezávislá novinařina je pro řadu lidí dobrá jen do té míry, dokud není nezávislá na jejich vlastním světonázoru.

Umělá inteligence nabídne úplně novou galaxii možností, v níž si každý bude moci „pro svou pravdu“ najít, nebo spíš vyrobit, jakýkoliv důkaz. A spousta lidí tomu uvěří, protože tomu bude chtít uvěřit. To také platí už teď – tváří v tvář důkazům často nepřichází lepší poznání, natož přiznání chyby, ale ignorace a zpochybnění ve stylu: kdoví, jak to všechno bylo.

Tvořit bude moci každý a cokoliv – fotky, videa, dokumenty, důkazy, identity i vztahy mezi nimi. V kvalitě a množství, o jakých se nikomu ani nezdálo. Ono okřídlené pravidlo, že dezinformátorům nejde o vyvrácení pravdy, ale o vytvoření tolika „pravd“, že se mezi nimi skutečná fakta ztratí a rezignujeme na ně, bude ve světě umělé inteligence naprostým standardem. Budeme jako Popelky, které se budou snažit najít zrnka čočky v neustále přibývajících závalech prachu a popela.

Dotkneme se tak božských schopností komunikace, v níž se mohou ztratit veškerá měřítka a identifikační znaky jako důvěryhodnost, pravděpodobnost a fakticita. Nejsme na to vybaveni ani připraveni. A pokud se už dnes společnosti tříští do rozpadlých nespojitelných dílků, těžko si představit jiný výsledek než naprostý babel – komunikační a společenský zmatek, nedůvěru a chaos.

Na druhou stranu, umělá inteligence je naplněným snem mnoha vizionářů a fantastů a takový Douglas Adams by byl se svým Stopařem nadšený, že se zhmotňuje jeho vize Babylonské rybky, která dokáže v reálném čase překládat cizí jazyky. Naše planeta jako globální vesnice se díky ní konečně dokonale propojí do jednoho celku, a pak zjistíme, že tou pravou babylonskou zkouškou pro lidstvo nebude neschopnost překonat neporozumění jiným jazykům, ale domluvit se jednou řečí a nepozabíjet se při tom.

Ale třeba se úplně pletu (na svou inteligenci bych si v souboji s budoucností rozhodně nevsadil), a lidstvo naopak umělou inteligenci využije k tomu nejlepšímu, čeho kdy bylo schopno, a se strojovou silou v zádech vyrazí za pravdou a bude oddělovat zrno od plev s efektivitou, o jaké se nám dosud nezdálo. Tak či onak, čeká nás veliké dobrodružství a zkouška.

Ján Simkanič

Udělej mi radost a pozvi mě na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.