COOLna

Přestože Čína a její systémová vize je většinovou společností Západu popisována jako digitální totalitarismus, který se v principu svého fungování inspiroval v Orwellově románu 1984, podle Zuboff je adekvátnější označit jej
za apoteózu instrumentární moci nasycené veřejnými a soukromými zdroji dat a řízené autoritářským režimem. Tento plán technologické dystopie ochromil některé části Číny už v roce 2019, o rok později se však v důsledku pandemické krize začal šířit v plné síle. Zdejší úřady, ruku v ruce s moderními technologiemi, mapují společnost a posléze profilují její jednotlivé členy, kteří na základě svého chování získávají sociální kredity. Funkcí těchto kreditů je určovat práva a možnosti hodnocených jedinců ve společnosti. Pozitivní aktivity zajišťují růst kreditů, škodlivé aktivity naopak zapříčiňují jejich pokles. Kreditové skóre je klíčovým ukazatelem, který ovlivňuje možnosti vycestování a nakupování, přístup
k mobilním operátorům a internetovým službám v podobě sociálních sítí nebo příležitost
k získání hypotéky či pracovní nabídky. Hodnocení je založené na chování v souladu se společenskými normami, ale také na řadě dalších aspektů, jako je životní styl nebo nákupní návyky jedinců. Nejdůležitější roli v tomto systému sehrávají všudypřítomné technologické nástroje, které vyhodnocují chování jednotlivců v online i offline světě na základě algoritmických operací, jejichž výstup určuje, zda se množství sociálních kreditů jednotlivých obyvatel zvýší či sníží. V roce 2015 vznikl pod rukama čínské společnosti Alibaba´s Ant Financial
systém nazvaný Sesame Credit, který nastartoval éru osobního kreditního hodnocení. Sesame Credit vytváří na základě strojového učení holistické vyhodnocení charakteru. Operující algoritmus hodnotí uskutečněné nákupy, množství a kvalitu přátelských vazeb, obsah soukromých konverzací, množství času stráveného sebevzděláváním v poměru k neúčelné činnosti, včasné placení účtů aj. V roce 2017 měl Sesame Credit přes 400 milionů
uživatel. Během následujících měsíců bude instalace tohoto typu softwaru povinná pro všechny obyvatele Číny, přes miliardu lidí tak bude podléhat dennodennímu ohodnocování. Společnost v Číně je dle Zuboff nasycena sledováním
a profilováním obdobným způsobem, s jakým se setkávají euroatlantické společnosti, záměr
monitorování a ohodnocování se však výrazně odlišuje, a proto je potřeba nedopouštět se slučování instrumentarismu s totalitarismem, který je řízen jedinou ideologií, přenášejíc svou oficiální pravdu i do soukromého sektoru, paralyzujíc tak celý stát. Centrální metaforou pro odlišení instrumentární a totalitní moci je antagonismus mezi Velkým bratrem (Big Brother) a Velkým jiným (Big Other), totálním dohledem a totální jistotou. Velký bratr je diktátorem totalitního Orwellovského státu, ve kterém je každý člen pod neustálým dohledem státních institucí vyžadujících absolutní poslušnost, kdežto Velký jiný usiluje o dohled nad jedinci s vizí absolutní jistoty, která přinese dostatečné množství
obchodovatelných dat. Záměrem totalitního režimu je vynucené zdokonalení společenského chování prostřednictvím ideologie, která je nositelem teroru. Myšlenka této převýchovy spočívá v modifikaci, která se uplatňuje procesem jdoucím zvnitřku ven (Inside – Out) – systém ostentativně ukazuje jednotlivcům, jak vypadá chování dle společenských norem.
Oproti tomu instrumentarismus ve své čisté podobě usiluje o automatizaci trhu a informatizaci společnosti, aby posléze mohl modifikovat chování jednotlivců procesem postupujícím zvenku dovnitř (Outside – In) – systém neříká jednotlivcům co mají dělat,
ale nasává bez jejich vědomí osobní informace. Stojí tak proti sobě politické náboženství s požadavkem absolutní věrnosti vůči státu a systém radikální indiference, která neusiluje o nápravu lidského chování, nýbrž o jistotu neustálé participace v rámci technologického úlu, která přináší zaručené výsledky v podobě dostatečného množství dat na vytvoření prediktivních modelů. Instrumentarismus nepožaduje poslušnost, ale transparentnost, což jej však ve výsledku k totalitarismu přibližuje, oběma systémům totiž velí myšlenka toho, že soukromí je iluzorní výdobytek civilizace, protože tajemství je ve skutečnosti pouhá lež.
Vedle toho tyto dva systémy vykazují podobnosti v přístupu k poznání, operují totiž s přesvědčením, že monopolní postavení určité skupiny lidí – jak ve státě, tak na trhu – opravňuje její vůdčí představitele k vykonávání rozhodnutí o tom, co by ostatní měli vědět. Navzdory okrajovým podobnostem je ovšem důležité neztotožňovat principy
instrumentární a totalitní moci, mezi systémem jistoty a systémem teroru je totiž velkýrozdíl, který se zdá být v díle Zuboff nedostatečně zdůrazňován. Je výzvou současnosti nepřipustit, aby západní demokratické společnosti začaly používat totalitní praktiky
odpovídající čínskému režimu. Souběžně je potřeba rozvíjet kritické diskuze o prolínání
ekonomické moci a politických rozhodnutí, která ovlivňují přítomnost i budoucnost občanské společnosti a svobodu jejích členů. Žádoucí je také snaha o porozumění toho,jakým způsobem je ovlivňováno lidské chování a proč by neměl být nepřetržitý sběr citlivých údajů bagatelizován či ignorován. Zájmy technologického průmyslu nesmí zvítězit
nad demokratickým právem a lidskou svobodou.

Udělej mi radost a pozvi mě na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.