COOLna

Pravděpodobnost, že do roku 2100 lidstvo vyhyne, se pohybuje mezi jedním a šesti procenty. A možnost, že je zasáhne ničivá katastrofa, mezi devíti až dvaceti procenty.

Vědci napříč obory v rozsáhlé studii posuzovali, jaká jsou největší rizika, jež v následujících desítkách let ovlivní přežití a existenci lidského druhu. Jaderná válka se umístila až na čtvrtém místě, klimatické změny jsou na ještě nižší pozici.

Všichni bez ohledu na své odborné zázemí se nyní obávají především jednoho nebezpečí: zániku lidstva v důsledku nekontrolovatelného šíření umělé inteligence (AI). Riziko, že se stále dokonalejší AI vymkne kontrole, se dostalo na první místo rozsáhlé vědecké studie Předpovídání existenčních rizik (Forecasting Existential Risks Evidence from a Long-Run Forecasting Tournament).

Studie zabývající se možnými scénáři soudného dne probíhala od června do října 2022.

Zúčastnilo se jí osmdesát odborníků, byť mezi nimi převažovali vědci zabývající se výzkumem umělé inteligence, jichž bylo zastoupeno dvaatřicet. Dalších dvanáct vědců se zabývá výzkumem biologických rizik, stejný počet těmi jadernými. Devět zastoupených respondentů je činných v oblasti klimatu a klimatických změn, zbývajících patnáct se zabývá různými tématy v širším pohledu. Druhou část oslovených respondentů tvořilo 88 superprognostiků, u nichž se v minulosti prokázala vysoká úspěšnost krátkodobých předpovědí.

Bez ohledu na své výzkumné zaměření se všichni zúčastnění shodují, že v příštích několika desetiletích bude lidstvo v nejvyšší míře ohroženo inteligentními stroji a softwarem, které se obrátí proti svým tvůrcům. Jejich odhady se navzájem lišily jen v hodnocení toho, jak velké riziko umělá inteligence představuje.

Nejhlasitěji před AI varují ti, kdo jsou v oblasti umělé inteligence sami specialisty. Riziko vyhlazení celého lidstva umělou inteligencí v blízké budoucnosti odhadují na tři procenta.

Znamená to, že odborníci na umělou inteligenci mají podstatně větší obavy než experti z ostatních oborů, kteří toto riziko odhadují na dvě procenta. Nejvíce jsou v tomto ohledu v klidu superprognostici: Pravděpodobnost, že lidstvo kvůli AI vymře, vidí jako riziko v řádu promile.

Také jaderné válce superprognostici přisuzují nižší pravděpodobnost než ostatní. Vojenští stratégové odhadují riziko na 0,55 procenta, vědci se všeobecným zaměřením na 0,19 procenta a superprognostici jsou s 0,07 procenta na spodní hranici míry rizika. Klidnější jsou i ohledně rizika dalších extrémních událostí, jež by mohly vést k zániku lidstva, jako jsou pandemie. Ať už způsobené patogenem vytvořeným člověkem nebo tím, který se rozšíří přirozenou mutací.

Pouze v případě zániku světa v důsledku přírodní katastrofy, jako je dopad asteroidu podobný tomu, kvůli němuž před 66 miliony let vyhynuli dinosauři, nebo velká sluneční bouře či exploze hvězd, se superprognostici, profesionální odborníci a všeobecně zaměření experti v hodnocení rizika do značné míry shodují. Všichni udávají pravděpodobnost kolem 0,004 procenta. Na příkladu laboratorních pokusů to znamená, že ze sta tisíc se očekávaný výsledek objeví pouze čtyřikrát – jedná se tedy o velmi nepravděpodobnou událost.

Zajímavé je i to, že předpovědi ohledně různých rizik spolu napříč tématy vysoce korelovaly. Například účastníci, kteří uváděli vyšší odhady rizika v souvislosti s umělou inteligenci, uváděli v průměru také vyšší odhady rizika použití jaderných zbraní nebo šíření světové pandemie.

Otázky ohledně možného konce světa nejsou jen zábavným tématem pro nejrůznější podivíny. Zcela vážně se jím zabývají mimo jiné odborníci na finanční a kapitálové trhy. Ukazují to i údaje finančně poradenské společnosti Bloomberg: Jen za poslední měsíc se zde objevily přes dvě stovky článků zabývajících se tématem „extinction events“, tedy riziky spojenými s možným zánikem lidstva.

Udělej mi radost a pozvi mě na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.