COOLna

Je to pro uživatele správná cesta, že takto mají naservírované okruhy svých zájmů a nemusejí sami nic hledat?
Fundamentálně to špatně není, ušetří vám to práci, ale hlavní záměr personalizovaného obsahu je jiný. Onlinové platformy, které jsou řízeny algoritmy, tedy umělou inteligencí, jako je YouTube, Facebook, Instagram nebo Twitter, existují proto, aby prodávaly reklamu. Žádné propojování přátel, udržování vztahů a zábava. Algoritmus, na němž běží, doporučuje věci na míru, aby maximalizoval vaši pozornost a co nejdéle vás na své platformě udržel, aby vám tu reklamu prodal. Je to legální byznys a naprosto v pořádku.

A vezměte si, že třeba Facebook obsluhuje 2,6 miliardy lidí měsíčně, a 1,5 miliardy denně! To je obrovské kvantum a každému z těchto lidí doporučuje obsah, na který by se měl podívat, který ho přitáhne a který v něm vzbudí nějakou emoci. Protože když ve vás vzbudí emoci, ať už pozitivní, nebo negativní, pak tím spíše na dané platformě zůstanete a budete to komentovat nebo sdílet.

Na tom mi nepřijde nic špatného. Vy v tom nějaká rizika vidíte?
Tato personalizace vede k uzavírání uživatelů do určitých sociálních bublin. Pokud jste pravdoláskař, začnete dostávat jenom obsah, který je z Respektu, Hospodářských novin nebo z Deníku N, a pokud jste na druhé straně barikády, pak vám bude chodit obsah Parlamentních listů.

Sociální bubliny vedou k fragmentaci populace, kdy přestáváme být propojení, přestáváme si rozumět a ustává výměna názorů. A zároveň je zde druhý, poměrně starý sociologický jev, kdy v okamžiku, kdy zavřete deset lidí spolu s„náckem“ do jedné místnosti a necháte je tam spolu týden, vyleze vám z té místnosti „nácků“ najednou pět. Lidé se v jedné místnosti zradikalizují. A totéž se děje v rámci těchto bublin. Snadněji pak přijmete názory, jež byste za jiných okolností dlouho zvažovali, nebo nepřijali vůbec, protože byste slyšeli i názory opozice či jiná řešení. Fragmentace společnosti je vidět třeba v Americe, kde je společnost už hluboce rozdělená.

Za to ale snad nemohou sociální sítě.
Neříkám, že to způsobily, ale rozhodně to zesílily a neustále prohlubují. A nad tím vším se ještě vznáší riziko, že legální reklamu na sociálních sítích využije nějaká cizí mocnost nebo konspirační teoretici, aby na určité skupiny cílili svoji propagandu. Jsou třeba důkazy, že u nás takto dělalo cílenou propagandu na Twitteru i na Facebooku Rusko. Ale může jít třeba o propagandu proti očkování, na zvýšení nedůvěry v Evropskou unii nebo proti NATO.

Velká firma, politická strana nebo stát si na sociální síti koupí reklamní prostor a šíří informace, které chce. Pro uživatele je velmi těžké zachovat si kritický odstup od obsahu, jenž je šitý na míru a jenž nás tlačí dál a dál do králičí nory. Emoční obsah vyvolá naši akci, ovlivňujeme se navzájem, a navíc manipulace není vždy úplně zřejmá. Jsou to dlouhodobé strategie, které pomalu posouvají vnímání lidí vůči různým tématům. Stačí se podívat na to, v jakém stavu je naše společnost a v jakém byla před deseti lety. Jsme radikalizovanější, rozpolcenější. Pokud chceme být na sociální síti, což má určitě i řadu pozitivních přínosů, pak nemáme možnost obrany.

Má Facebook nastavené algoritmy, které respektují etické zásady a určité morální hodnoty?
Ne, to je právě ten problém. Algoritmus Facebooku vznikl jako stroj na reklamu, je to obrovský systém běžící na stovkách tisíc různých serverů, což je z technologického hlediska úžasný kus infrastruktury, ale absolutně nic to neví o hodnotách naší společnosti. Neví nic o etické žurnalistice, když distribuuje obsah z novin, nemá žádný parametr, který by pracoval s konceptem pravdy, vyváženosti apod.

Facebook se teď snaží pod tlakem neziskových organizací a některých vlád dostat ze své platformy nejhorší konspirační skupiny a trochu s tím bojovat, ale to jde samozřejmě proti jejich základnímu modelu fungování. Dokonce se ven dostala i interní komunikace YouTube a Facebooku, jež dokazuje, že už před lety věděli, že jejich algoritmy vedou k radikalizaci a fragmentaci společnosti. Ale zároveň také vědí, že kdyby s tím začali něco dělat, zhorší se jim obchodní výsledky. Je to podobné, jako když v 80. letech tabákové firmy už poměrně dlouho věděly, že kouření způsobuje rakovinu, ale nic s tím nedělaly, protože by přišly o peníze. Akorát tabákové firmy způsobují rakovinu jednotlivcům a sociální sítě způsobují rakovinu společnosti.

Co tedy můžeme dělat, pokud chceme na sociálních sítích zůstat?
To je velmi těžké. Hlavně je potřeba si uvědomit, že každý jeden z nás, že my všichni jsme vlastně redaktoři. Že svým konáním na sociálních sítích činíme rozhodnutí, jaká ještě před dvaceti lety činila redakce nějakého mediálního domu. Tehdy ale tato rozhodnutí byla vedena zkušenými žurnalisty a fungovala v rámci určitého etického rámce. Je potřeba myslet na to, že sdílením nebo tlačítkem Like přispíváme k něčemu daleko většímu. A zejména pokud se jedná o negativní obsah, být si vědom toho, že jeho sdílením přispívám k naštvanosti dalších lidí.

Mají stejný problém s podsouváním obsahu i vyhledávače, jako je třeba Google?
Když odhlédneme od toho, že stejný problém má YouTube, který Googlu patří, pak u samotného Googlu jako vyhledávače to tak není. Tam je větší rovnováha mezi obchodními cíli a tím, co jako uživatel potřebujete. Ale ze strany sběru dat jsou na tom stejně. Google třeba koupil náramky na běhání Fitbit, protože je to zajímavý zdroj dat.

Týká se to i mobilů?
Naprosto. Mobily jsou nabité senzory, a tím pádem i daty, navíc jsme na nich závislí. Není to v tom, že by nás někdo odposlouchával, ale že si do mobilu stahujeme různé aplikace, z nichž se sbírají data, můžeme tam mít krokoměr, sbírají se data o naší poloze díky GPS. To je důvod, proč jsou telefony s Androidem, který vyvinul Google, levnější než iPhone.

Když si koupíte iPhone, platíte si za bezpečí a soukromí, protože z iPhonu nejde ven tolik dat. Společnost Google vytvořila systém Android tak, aby měla přístup k datům uživatelů. Z našich dat je pak schopna odvodit, co celý den děláme, jak se chováme. Telefony mění způsob, jak se zachází s našimi informacemi.

Takže nás tedy neustále někdo sleduje?
Více a více. Ještě před dvěma lety se tomu začalo říkat slídící kapitalismus, který je založený na sběru dat a na vytváření modelů a následných výstupů. A to se dá zobecnit na to, čemu říkám algokracie, kdy začínáme žít ve světě, který je vysoce propojený různými senzory, ze kterých se sbírají data, na jejichž bázi určitý algoritmus určuje pravidla a fungování tohoto světa. Facebook je algokracie informační, určuje, co kdy kdo uvidí, co kdy kde kdo rozšíří, Amazon je zase prodejní algokracie. Existují i projekty tzv. chytrých měst, kdy se do prostředí dají senzory, kterými můžete synchronizovat dopravu, určovat, kdy se sepne červená a zelená, alokovat policejní hlídky podle toho, kde zrovna probíhají koncerty, nebo podle údajů o kriminalitě, zjednodušovat logistiku, zvyšovat kvalitu života apod., a to vše je řízené algoritmem. A my musíme dát pozor na to, aby demokratické principy a principy občanské společnosti nezůstaly stranou.

Před rokem zde byla snaha pražské policie dát do pilotního provozu rozpoznávání obličejů z kamer. Naštěstí se to zastavilo. Protože kdyby tisícovky kamer, jež jsou na ulicích a v obchodech, najednou měly možnost rozpoznat obličej a identifikovat vás jako konkrétního člověka, byli bychom pod permanentním dohledem. A odtud už není cesty zpět.

Když zmiňujete ta chytrá města: v čínském městě Čchung-čching jsou nyní plány na vybudování supermoderní čtvrti Cloud Valley. Projekt chce využívat senzory a zařízení připojená na wi-fi, která budou sbírat data od počasí a stupně znečištění ovzduší až po stravovací návyky lidí, aby stroje mohly automaticky plnit potřeby obyvatel. Je toto naše budoucnost?
Doufejme, že ne. Toto je Čína, totalitní stát s centrálně plánovanou ekonomikou. Jdou přesně směrem orwellovského sledování, kdy nasazují různé systémy za účelem držení populace pod kontrolou. Stejně jako se komunisté snažili přes StB sledovat lidi, akorát jsme o padesát let dál, takže teď to bude na bázi senzorů a umělé inteligence.

Čína si tyto technologie testuje v provincii Sin-ťiang na Ujgurech, což je turkická minorita vyznávající islám, která čítá miliony lidí. Ti už teď žijí v systému, kdy jsou permanentně sledováni, nemohou se volně pohybovat a vše je algoritmicky řízené. A Čína pak bude chtít nasazovat tuto architekturu řízení společnosti pomocí senzorů i v jiných čínských oblastech, a zároveň ji plánuje prodávat do zemí, kde nejsou demokratické principy tak silné.

Může se z toho stát systém, který kontroluje nějaká omezená skupina lidí, a tito lidé mohou mít obrovskou moc. Umělá inteligence tak může rozdělovat společnost na ty, kdo mají data a vědí, a na ty, kdo jsou uvnitř toho světa a ta data produkují, tedy nás občany.

Hrozí návrat totality, která bude datově řízená.

Josef Holý, odborník na umělou inteligenci