COOLna

Paradox evoluce: naučili jsme se a celkem umíme bojovat s nedostatkem. Avšak nevíme si tak úplně rady s nadbytkem.

Příklad: obezita. Snaha opatřit si jídlo byla v historii do značné míry motorem pokroku a vývoje. I díky ní jsme vybudovali civilizaci, kde nedostatek jídla v podstatě přestal být problém. Problémem se stala obezita, která je důsledkem nadbytku jídla.

Není tak zjevně nebezpečná jako nedostatek. Při hladomorech umíraly milión lidí v krátkém čase. Obezita je spíš takovým nenápadným, skoro neviditelným nepřítelem. Jenže o to nebezpečnějším. A my nevíme, jak s ní bojovat.

Jiný příklad: informace. Vynález knihtisku byl jedním z nejdůležitějších v historii, protože umožnil informace uchovávat a sdílet. Přinesl rozvoj vzdělanosti, vědy a umění. Nepřímo vedl k průmyslové revoluci. Snaha ukojit touhu po informacích stála u vzniku moderních médií.

Digitalizace informací a vynález webu, který je moderní obdobou středověkého knihtisku, náš hlad po informacích nasytily. Ale růst informací a ochotu lidí je konzumovat to nezastavilo. Mluvíme dnes o době informačního přetížení, a nelze nevidět analogii s přejídáním.

Víme, že příliš mnoho informací nám nesvědčí a že tak jako u jídla by méně znamenalo více. Zejména pokud by to méně, co konzujeme, bylo kvalitnější. Ale nedokážeme si pomoct a s informační obezitou neumíme bojovat.

A pak je tu touha objevovat. Nové světy, neznámé přírodní zákony či dosud neexistující technologie. Hlad po nových poznatcích a apetit přicházet na kloub všemu, čemu nerozumíme. Neexistuje nic víc lidského a zároveň obdivuhodného.

Jenže co když i tady platí zmíněná analogie? A my jsme dnes v situaci, kdy přichází éra “nadbytku”, a my zjišťujeme, že se před námi otvírá víc cest do budoucnosti, ale jen některé jsou bezpečné? A že některé dveře bude lepší nechat zavřené, jakkoli za nimi možná čekaí vzrušující a lákavé objevy?

To je otázka, kterou lidstvo poprvé řešilo už v minulém století v souvislosti s jadernou energií. A dnes se vrací s otazníky kolem umělé inteligence či biotechnologií.

Mustafa Suleyman, zakladatel firmy DeepMind (a po její akvizici Googlu také viceprezident této společnosti) a jeden ze spoluzakladatelů miliardového startupu InflectionAI, to pregnatně formuloval ve tweetu už v polovině srpna. Píše:

Minulé století bylo definováno tím, jak rychle jsme dokázali všechno vynalézt a použít.

Toto století bude definováno naší schopností říci kolektivně NE některým technologiím.

To bude nejtěžší výzva, jaké jsme kdy jako druh čelili. Je to v rozporu se vším, co dosud umožňovalo civilizaci.

Suleyman patří k titánům AI poslední dekády, v září mu vyšla napjatě očekávaná knížka na toto téma s názvem Přicházející vlna (The Coming Wave), s podtitulem: “technologie, moc a největší dilema jednadvacátého století”

Ale souhlasíte s jeho základní tezí? Máme fascinujícím, byť možná riskantním objevům jen z dálky uctivě zamávat, a vydat se do budoucnosti po široké a bezpečné, avšak nudné cestě?

Nemyslím si. Můj názor je, že by to byla ta největší chyba, kterou bychom mohli udělat. A to ze dvou důvodů.

Za prvé: kdo bude tím, který naše cesty poznání směrem dopředu bude vybírat? Se vší úctou k Suleymanovi a mnoha dalším, nemyslím si, že by to měli být lidé jako on. Jeho pozice je nevěrohodná, už proto, že chce být člověkem, který AI formuje a posouvá dopředu (InflectionAI má pár let po založení valuaci v řádu miliard dolarů), a zároveň má ambici rozhodovat, co by měli a neměli v tomto oboru dělat ostatní.

A to je ještě ta lepší možnost. Protože jak víme z historie, po prvních přesvědčených, jakkoli naivnách revolucionářích přicházejí ti, kteří se s tím “nemazlí”. To je ta skutečná “příští vlna”, o které píše Suleyman. Tedy něco, co se v lidských dějinách opravdu neosvědčilo.

Druhý důvod považuju za důležitější, asi zásadnější: budoucnost nečeká, až ji objevíme. Budoucnost je “tam” bez ohledu na to a čeká na nás. A když ji objevíme my, a nikoli ona nás, je to naše nejlepší šance ji “přežít”. Pokud má potenciál nás ohrozit či zničit.

Nic lepšího než svůj rozum a touhu objevovat nemáme k dispozici. Můžete tomu říkat naivní technooptimusmus. Ale jsem o tom přesvědčený. Co vy?

Miloš Čermák

Udělej mi radost a pozvi mě na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.