COOLna

Zaměstnanci firmy Open AI, světového lídra v umělé inteligenci, požadují „právo varovat před pokročilou umělou inteligencí“ veřejnost. Informuje o tom americký server VOX s odkazem na otevřený dopis bývalých a současných zaměstnanců z OpenAI a Googlu.

Pracovníci jsou přesvědčeni, že umělá inteligence má obrovský potenciál pro konání dobra, ale obávají se, že bez náležitých bezpečnostních opatření může tato technologie umožnit vznik celé řady škod.

„Bojím se. Byl bych blázen, kdybych se nebál,“ řekl Daniel Kokotajlo, signatář, který v dubnu odešel z OpenAI poté, co ztratil víru, že vedení společnosti bude s její technologií zacházet zodpovědně.

VOX připomíná, že v poslední době odešlo z podobných důvodů několik dalších zaměstnanců, kteří dbali na bezpečnost, což posílilo obavy, že OpenAI nebere rizika této technologie dostatečně vážně.

Šest signatářů je anonymních, včetně čtyř současných a dvou bývalých zaměstnanců OpenAI, právě proto, že se obávají odvety ze strany společnosti.

Mluvčí společnosti OpenAI sdělil serveru Vox, že současní i bývalí zaměstnanci již mají k dispozici fóra, kde mohou vyjádřit své názory prostřednictvím úředních hodin vedení, schůzek s představenstvem a anonymní horké linky pro bezúhonnost.

Zaměstnanci OpenAi si podle VOXu stále častěji všímají, že „kultura bezpečnosti ustoupila do pozadí před nablýskanými produkty a výdělkem“ –⁠⁠⁠⁠⁠⁠ jak doslova píše Jan Leike, který do nedávna vedl tým pro sladění společnosti.

S problémy AI by mohla pomoci regulace. Podle VOXu ale sama o sobě nemusí stačit. Zákonodárci často nerozumí rychle se vyvíjejícím technologiím natolik dobře, aby je mohli dostatečně regulovat.

Proto chtějí zasvěcení pracovníci společnosti získat právo varovat veřejnost. Mají přístup k vyvíjející se technologii z první řady a rozumí jí lépe než kdokoli jiný. Pokud budou mít právo mluvit o rizicích, která vidí, mohou být společnosti více motivovány brát tato rizika vážně.