COOLna

Když z nějaké společnosti začnou ve velkém odcházet vysoce postavení lidé, obvykle se to bere jako důkaz, že je firma v problémech, nebo možná zkostnatělá. Ani jeden důvod ale zjevně nesedí na OpenAI – firmu, která je od uvedení populárního ChatGPT na výsluní. Proč z ní tedy odchází tolik klíčových lidí?

Nejnověji se k tomu rozhodl John Schulman, který byl v roce 2015 u založení OpenAI. Schulmana přetáhla konkurenční firma Anthropic. Kterou mimochodem v roce 2021 založilo sedm bývalých zaměstnanců firmy OpenAI, takže Schulman se může těšit na spoustu známých tváří. Jako důvod odchodu Schulman počátkem srpna uvedl „touhu více se zaměřit na bezpečnost umělé inteligence“.

Greg Brockman, další ze zakladatelů OpenAI, sice nekončí úplně, ale bere si osobní volno do konce roku. „Je to od založení OpenAI před devíti lety moje první příležitost si odpočinout,“ napsal Brockman, který dočasně opouští křeslo prezidenta společnosti.

A do toho se dozvídáme, že po roce mizí Peter Deng, viceprezident a šéf vývoje ChatGPT, nejpopulárnějšího produktu OpenAI. Připočtěme k tomu i květnový odchod dalšího spoluzakladatele, Ilyi Sutskevera, bývalého člena dozorčí rady. Spolu s ním skončil i Jan Leike, který vedl bezpečnostní tým zkoumající tzv. „superalignment“.

Přitom podle vnějších znaků se zdá, že OpenAI má ve svých laboratořích novinky, které mají šanci posunout schopnosti nástrojů umělé inteligence zase o něco dále.

Což nás opět vrací k otázce: pokud tedy v laboratořích OpenAI už skutečně testují tak mocné novinky – a vysoce postavení lidé jako Brockman či Sutskever k nim jistě měli přístup – jak si vysvětlit, že tito špičkoví výzkumníci a vývojáři odchází ke konkurenci, na odpočinek nebo pracovat na vlastních projektech?

Klíč možná tkví v tom, co je – nebo aspoň má být – hlavní misí OpenAI. Ta vznikla původně jako nezisková výzkumná organizace, která bude usilovně a systematicky hledat, jak zajistit, že až lidé vyvinou skutečně přelomovou umělou inteligenci, nevymkne se jim z rukou, ale bude lidstvu ku prospěchu.

Obecná umělá inteligence. Taková, která umí všechno, co umí lidé, ale lépe. To je od začátku cíl společnosti OpenAI. Zkoumat a vyvíjet ty nejlepší neuronové sítě a postupně se dostat až na hranici, za kterou už nedohlédneme. Do momentu, kdy počítač svou schopností uvažovat překoná člověka nejen v něčem, ale ve všem. A ne nějakého konkrétního člověka, ale jakéhokoli člověka.

Této metě se přezdívá ASI, umělá super inteligence, někdy také singularita. Zdaleka ne všichni experti na strojové učení věří, že je něco takového možné, nebo že se to lidem povede v dohledné době. Ale platí, že v OpenAI se „víra“ v nevyhnutelný příchod AGI bere div ne jako podmínka pro pozvání k pracovnímu pohovoru.

„Obecná umělá inteligence bude vynalezena přesně jednou,“ zdůraznil v roce 2021 Sam Altman, jak on sám vnímá jedinečnost a zároveň vážnost celé situace. Zároveň už tehdy uvedl, že právě on se cítí předurčený k tomu, aby se ujal vedení OpenAI.

Toto vedení si udržel i po (nakonec nepovedeném) sesazení z pozice šéfa. Představenstvo jej tehdy odvolalo, dnes víme, že to bylo například kvůli nedůvěře v to, že Altman členy představenstva dostatečně informuje o tom, co se ve firmě děje. Altman zprvu zprávu o propuštění přijal, pak si to ale rozmyslel. Postavila se za něj většina jeho zaměstnanců a také Microsoft, hlavní investor.

Do týdne dostal Altman zpět zaměstnaneckou kartičku i šéfovské křeslo, a všichni ve firmě dostali pořádnou lekci: bez Altmana není OpenAI. A právě tohle může být jedním z důvodů, proč odešli někteří experti. Zvláště ti vysoce postavení.

Proč je tedy OpenAI v podivné a paradoxní situaci, kdy na jednu stranu platí za špičku v atraktivním inovativním oboru a má celou řadu novinek, které v dohledné době představí veřejnosti, ale současně čelí odlivu špičkových talentů a vysoce postavených manažerů, jako kdyby šlo div ne o potápějící se parník?
Skutečnou odpověď samozřejmě zatím neznáme. Kolující spekulace jsou ale v tomto směru zajímavé. Už třeba proto, že hezky znázorňují spektrum pohledů na současnost a hlavně budoucnost umělé inteligence.

Pokud někdo zcela a 100% věří tomu, že OpenAI v dohledné době vytvoří buď obecnou inteligenci, nebo něco, co nás k ní posune, dává smysl se podle toho chovat. Podle takovýchto optimistů tedy špičkoví lidé z OpenAI zkrátka odešli proto, že už je to „na spadnutí“ a oni se tak posunuli dál a svými projekty chtějí navázat nebo využít to, co OpenAI časem uveřejní.

Naopak pokud někdo věří, že umělá inteligence představuje zásadní hrozbu pro lidstvo, může poukázat na to, že lidé, co z OpenAI odešli, často patřili k těm, kteří zkoumali tzv. „superalignment“. Jestliže nevěří, že Altmanova firma tento problém bere dostatečně vážně, pak vzhledem k „jednorázovosti“ případného problému dává smysl, že se tito experti pokusí vést výzkum jinde.

Možná si lidé, kteří OpenAI opouští, mohli hrát s novým „GPT příští generace“, jak se prý interně pětce přezdívá. A možná zjistili, že to až tak velká sláva není. Pak by dávalo smysl poohlédnout se jinde.

Anebo to může být právě naopak. Tito klíčoví lidé si spočítali, že je superinteligence za rohem. A hledají, jak toto vědomí nevyhnutelné budoucnosti zužitkovat, jak se na něj připravit nebo jak na něj připravit ostatní.

A OpenAI samozřejmě není jediná firma, která na AI pracuje. To je možná nejjednodušší a nejpragmatičtější vysvětlení. V roce 2015 se do seriózního výzkumu obecné umělé inteligence nikdo moc nehrnul. V kurzu bylo strojové učení, rozpoznávání obrazu nebo kategorizace dat v reálném čase. Kalifornská laboratoř OpenAI tak byla jedinou oázou, kde se sešli experti na AI z celého světa. A teď, když je po expertech na umělou inteligenci poptávka všude, zkrátka reagují na novou situaci. Ke které, nutno dodat, OpenAI významně přispěla.

Stále jsme ale na začátku. K obecné umělé inteligenci má zatím všechno, co jsme dosud viděli, docela daleko. Což je nakonec dobře, protože většina lidí si ještě nezvykla ani na tu kreativní umělou inteligenci, kterou zde už máme.