COOLna

Vždyť už několik let vycházely v novinách různé „rozhovory s umělou inteligencí”, nemluvě o divadelních hrách napsaných strojovým učením, povídkách, článcích a podobně.


Setkal jsem se proto u některých odborníků s názorem, že vlastně o nic přelomového nejde. ChatGPT přece využívá jen trochu vylepšený model GPT-3, který tu je už víc jak dva roky. Z pohledu lidí, kteří vývoj strojového učení sledují, šlo spíše o nový kabát pro starou známou technologii.

Jenže ChatGPT dal poprvé možnost každému si tuto těžko předatelnou zkušenost prožít na vlastní kůži. Vy, vaše děti, vaši rodiče a kdokoli jiný si může na stránkách ChatGPT od OpenAI vyzkoušet komunikaci se strojovým učením a ověřit si, co umí a co ne.

Jinými slovy, to, co odborná veřejnost ohledně využití a zneužití takzvané „umělé inteligence” vstřebávala v průběhu posledních dvou let, to nyní veřejnost zažívá v rámci šíleně koncentrovaného rychlokurzu. Nedivím se, že se z toho řadě lidí točí hlava. Je to zcela adekvátní reakce na kontakt s technologií, jejíž schopnosti i nedostatky jsou tak neintuitivní.

Není to vyhledávač, není to kalkulačka, není to knihovna, není to vědomostní databáze, není to překladač, není to terapeut, není to umělec… ale umí se tak tvářit. A to velmi přesvědčivě. Sám vám to ostatně přizná, když jej nachytáte, jak si vymýšlí: „Je mi líto, že jsem vás zmýlil nebo způsobil nějaké potíže. Jako velký jazykový model jsem byl vytvořený tak, abych odpovídal na otázky s co největší přesností a přesvědčivostí.”

Stroj vám odpoví cokoli, co bude vypadat důvěryhodně. Asi jako student, který si u zkoušky vylosoval otázku, na kterou se nenaučil, a tak to zkouší zakamuflovat.

Je myslím užitečné si uvědomit, že ChatGPT prostě kecá. A to slovo „kecat” nezaměňujme se slovem lhát. Skutečně lhát může pouze někdo, kdo si myslí, že ví, jaká je pravda, a vědomě tuto pravdu zatajuje nebo zkresluje. Ale kecání vůbec nevyžaduje znalost pravdy. Jak píše filozof Harry Frankfurt ve své slavné knize O kecání, kecy jsou vlastně ještě horší lži.

„Lhář zná pravdu a popírá ji. Ale když někdo kecá, vůbec mu na pravdě nezáleží,“ zdůrazňuje Frankfurt. Místo toho jsou kecy zaměřené na to, aby zněly přesvědčivě. Občas dokonce budou pravdivé. Jejich problémem není nepravdivost, ale to, že se vůči realitě vůbec nemusí vztahovat.

Jde především o zachování co největší „konzistence”. Neuronová síť hledá takovou odpověď, aby „vypadala, že navazuje na zadanou otázku”. A když je síť dobře natrénovaná, často je výsledek až překvapivě dobrý.


Ale je dobré si pamatovat, že AI za své výtvory neručí. A když se zeptáte znovu, můžete dostat úplně jinou odpověď. Kdyby nám něco takového bez mrknutí oka dělal člověk, vyslouží si přezdívku Baron Prášil.