COOLna

Zhruba dvě desítky neurologů, filozofů a počítačových vědců se pokusily vypracovat seznam kritérií, jejichž splnění by znamenalo, že určitá umělá inteligence s vysokou pravděpodobností nabyla vědomí.

Své závěry v srpnu zveřejnili na webu arXiv, kam vědci v současné době nahrávají práce, které připravují k vydání v nějakém odborném časopise. Kvalita článků na arXiv je tedy velmi různá. V tomto případě jsou ale pod textem podepsána z velké části známá a osvědčená jména, takže práci se už teď dostalo pozornosti od kolegů i specializovaných novinářů a blogerů.

Výzkumníci se do tohoto úsilí pustili, protože „podrobných, empiricky podložených a promyšlených diskuzí o vědomí umělé inteligence je opravdu málo“, jak uvedl jeden z autorů, filozof Robert Long z Centra pro bezpečnost umělé inteligence (výzkumné neziskovky v kalifornském San Franciscu).

Otázce se rozhodně příliš nevěnují společnosti, které AI vyvíjejí. Nejspíš především z obchodních důvodů se tomu řada z nich spíše vyhýbá. Možná si vzpomínáte na případ vývojáře společnosti Google, který dospěl k názoru, že už současné AI mají vědomí, a dokonce de facto bojoval za jejich práva.

Manažery AI firem může do značné míry uklidnit, že „vědomí“ dokážeme jen těžko popsat a vysvětlit. Asi nejjednodušší definice říká, že vědomí je „to z naší mysli, co si dokážeme vybavit“. Ale jak si sami na sobě můžete jednoduše ověřit, člověk si uvědomuje opravdu leccos, od svých tělesných pocitů přes vjemy z okolí až třeba po myšlenky o povaze vlastního vědomí, a těžko pro to vše najít společného jmenovatele.

Česká Učebnice obecné psychologie Aleny Plhákové například uvádí, že vědomí je nejhůře vysvětlitelným jevem psychologie. Jen těžko se „vědecky uchopuje“, protože je příliš složité. Věda pochopitelně předpokládá, že vědomí vzniká v našich mozkových buňkách a obecně v mozkových strukturách, ale jak přesně, to nedokáže vysvětlit.

Definice vědomí jsou tedy de facto jen popis toho, co by do něj podle daného autora mělo spadat. Vysvětlují často, jak se projevuje, ale neříkají, o co vlastně jde. A velmi často si pomáhají i negativně, tedy popisují i to, co do vědomí nepatří.

Nejistotu dobře ilustruje skutečnost, že autoři zmiňované studie použili jednu velkou zkratku (a sami na to upozorňují). Pro jednoduchost o vědomí píšou, jako by šlo o „binární“ vlastnost: Organismus či systém je buď vědomý, nebo není. Protože toho ale o vědomí víme tak málo, musíme připustit, že existuje celá řada dalších možností. Vědomí může velmi snadno patřit mezi vlastnosti s neostrými hranicemi.
Například tričko může mít barvu někde na pomezí mezi žlutou a zelenou, takže na tom, zda je žluté, nebo ne, není nic jistého. V zásadě by to tak mohlo být i u vědomí. Minimálně někteří autoři předpokládají, že by mohli existovat tvorové, kteří nejsou ani úplně vědomí, ani úplně nevědomí.
Pokud tomu tak je, mohly by se některé systémy umělé inteligence nacházet na této neostré hranici.
Věda také nemůže vyloučit, že existují různé „stupně vědomí“. Je tedy možné, aby jeden systém byl vědomější než jiný. V takovém případě by mohlo být možné vytvořit systémy umělé inteligence, které jsou vědomé, ale jen ve velmi malé míře – anebo také pochopitelně systémy, které jsou vědomé v mnohem větší míře než lidé.
Stejně tak je možné, že vědomí se nepohybuje na jedné škále od „nevědomí“ k „supervědomí“, ale jedno vědomí se může od druhého lišit v celé řadě vlastností či parametrů. Jedno tak může být „vědomější“ než jiné například jen díky tomu, jak dobře dokáže vnímat a přemýšlet o sobě.
Je také možné, že vědomí může být složené z různých dílů, které fungují dohromady. A každý zvlášť prostě ke vzniku vědomí nevede. I v takovém případě by mohly velmi pravděpodobně existovat i systémy složené z menšího počtu dílů, které jsou vědomé jen částečně.
Kolem celé otázky je řada nejasností a z pestré nabídky si může vybrat každý. I proto autoři navrhují, že bychom měli o případném vědomí u umělé inteligence uvažovat v mezích pravděpodobnosti. Tedy neříkat „tato AI má vědomí“, ale spíše „tato AI by s pravděpodobností 10 procent mohla mít vědomí“.
Podle nich je to rozhodně přesnější. Ale i to, že sami důsledně takový způsob vyjadřování v práci nepoužívají, jen naznačuje, jak obtížné a nepraktické je uvažovat o této otázce takovým způsobem. Je to dobrá poznámka, ale ve veřejné debatě na ni pravděpodobně všichni brzy zapomenou.

Přesto vědci tvrdí, že přes všechny neshody lze alespoň do určité míry vymyslet způsob, jak přítomnost vědomí u umělé inteligence potvrdit (tedy s určitou pravděpodobností, ne zcela definitivně a nezvratně).

Aby jejich otázka dávala vůbec smysl, pochopitelně předpokládají, že vědomí lze napodobit v počítači. Ne všichni odborníci takový názor sdílejí, ale kdyby si autoři této konkrétní práce mysleli, že to možné není, neměli by o čem psát.

V dalším kroků pak zmiňují, co nedělat: Zkoušet AI, zda se chová, jako by měla vědomí. Umělá inteligence se naučila lidské chování a projevy napodobovat do té míry, že nám to mnoho nového neřekne.
Zkuste se nějaké AI zeptat, jestli má vědomí, a pak s ní o tom debatovat. Dozvíte se toho spoustu, ale co z toho je pravda, to ne – a už vůbec z toho přesvědčivě nezjistíte, jestli projev AI vznikl vědomě či nevědomě. Může to vypadat jako projev vědomé inteligence, ale není jisté, že to tak opravdu je.

Mnohem více by se případné zkoumání míry sebeuvědomění dané AI mělo věnovat tomu, jak vnímá svět a do jaké míry si uvědomuje své vlastní subjektivní prožitky (filozofové tomu říkají „fenomenální vědomí“). Nikdo nepochybuje, že lidé takhle svět vnímají. Jak je to u zvířat, na tom se věda ještě neshodne.

Práce pochopitelně naráží na již zmíněný problém, že nemáme obecně přijímanou teorii vědomí. Autoři proto sáhli do šesti hojně diskutovaných a z každé si vzali něco.

Například teorie tzv. vyššího řádu předpokládá, že vědomí vyžaduje schopnost přemýšlet o tom, jak přemýšlíme a jak se učíme (tzv. metakognice). Když je tedy nějaká AI vybavena „modulem“, jenž dělá něco podobného – tedy sleduje a analyzuje dění v jiných částech AI – tak bychom podle autorů měli předpokládat, že u takové umělé inteligence se vědomí vyvine spíše než u jiné, která podobný systém nemá.

Jiná teorie pracuje s představou, že vědomí vyžaduje schopnost odlišit signály vyvolané vnějšími okolnostmi od vjemů, které vznikají v našem mozku, tedy představ. Pokud by AI měla systém, který umožní rozpoznat vnější signály od jejích „halucinací“, šance na získání vědomí by měla být zase vyšší.

Další teorie (tzv. rekurentního zpracování) navrhuje, že vědomí je opakované zpracování informací ve zpětnovazebních smyčkách. Například naše zrakové vjemy „prochází“ různými částmi mozku znovu a znovu. Toto opakování a integrace signálů se zdá být nezbytné pro skutečně bohaté zrakové vjemy. Co z toho plyne? Že systémy, které obsahují podobné prvky, by pravděpodobněji mohly být vědomé.

Závěr si asi dokážete představit sami: Čím více takových vlastností systém vykazuje, tím spíše může být vědomý. Autoři svůj vlastní přístup označují jako „založený na teorii“. Což mimo jiné implikuje, že závěry hodně závisí na tom, jak se budou vyvíjet naše teorie vědomí – a seznam navržených kritérií nelze považovat za definitivní.

Pochopitelně se ve studii objevuje i otázka, zda už současné umělé inteligence tyto vlastnosti mají a v jaké míře. Odpověď je zatím negativní: Žádný současný systém, o kterém autoři vědí, nemá dost kýžených vlastností, aby u něj byla vyšší pravděpodobnost výskytu vědomí.

Zároveň ovšem autoři dospěli k názoru, že „uvědomělá AI“ by mohla být relativně blízko. Některé mechanismy, které by údajně měly zvyšovat pravděpodobnost výskytu vědomí u AI, se už dnes běžně používají. A ty zbylé by podle nich s využitím dnešní výpočetní techniky nemělo být nemožné napodobit.

Matouš Lázňovský

Udělej mi radost a pozvi mě na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.