COOLna

Naivní důvěra v humbuk průmyslu umělé inteligence způsobuje skutečné škody.

Dodavatelé systémů umělé inteligence jsou náchylní dávat sliby, které nemohou dodržet.

• Amazon plánoval použít AI k revoluci v náboru, než si uvědomili, že zautomatizovali diskriminaci a museli projekt zrušit.
• Umělá inteligence měla být novým revolučním nástrojem pro boj s COVID-19, ale žádný z nich nakonec nefungoval dostatečně dobře, aby byl bezpečný.
• Nizozemská vláda se ho pokusila využít k odstranění podvodů s dávkami. Jejich důvěra v systém AI, který si koupili, vedla k tomu, že více než tisíc nevinných dětí bylo nespravedlivě odebráno z jejich rodin a do pěstounské péče.

Není to pseudověda, pokud to vypadá jako věda, že?

Ale je to tak a nejsem jediná, kdo na to upozorňuje:

Díky technikám strojového učení (ML), systémy počítačového vidění a související nové technologie umělé inteligence (AI), ohlašují novou éru výpočetní fyziognomie a dokonce i frenologie. Tyto vědecky nepodložené, rasistické a zdiskreditované pseudovědecké obory, jejichž cílem je určovat charakter, schopnosti nebo budoucí vyhlídky člověka na základě jeho obličejových rysů nebo tvaru jeho lebek, by měly být klatbou pro každého výzkumníka nebo vývojáře produktů, který dnes pracuje v počítačové vědě.

Takže, když provedli své testování, můžeme my, společnost, vědci, další výzkumníci AI, provést vlastní testování, abychom mohli mít nestranný odhad skutečných rizik jejich AI?

• Můžeme získat přístup k datům, na kterých byl GPT-4 vyškolen, nebo alespoň k nějaké dokumentaci o tom, co obsahuje, abychom mohli provést vlastní analýzu? Ne.
• Můžeme získat plný přístup k řízené verzi GPT-4, takže bychom mohli mít nestranné a nepřidružené týmy, aby provedly replikovatelný experiment se smysluplnější strukturou a mohli bychom použít koncepčně platnější testy raných známek uvažování nebo vědomí? Ne.
• Jsou některé z těchto testů od OpenAI recenzovány? Ne.

Tohle není věda. Tohle je divadlo, nic víc.

Obecněji řečeno, výzkum AI je těžké nebo dokonce téměř nemožné reprodukovat – jako obor si nemůžeme být jisti, že jejich tvrzení jsou pravdivá – a je to problém.

Obor tak slibný, jako je umělá inteligence, má tendenci přitahovat nadšence, kteří skutečně věří v „AI“, takže nejsou k práci tak kritičtí, jak by měli být.

Částečně je to však kvůli jedinečným charakteristikám přístupu přijatého v moderním výzkumu umělé inteligence a strojového učení: použití velkých sbírek tréninkových dat.

Systémy fungují dobře kvůli kontaminaci testovacích dat a netěsnostem, ne proto, že by dělaly nějaké úvahy nebo řešení problémů.

Nemyslím si, že dodavatelé systémů AI lžou. Jsou to „skuteční věřící“, kteří také vydělávají spoustu peněz, pokud mají pravdu. Existuje jen velmi málo, co je motivuje k tomu, aby byli kritičtější k práci, kterou vykonávají ve svém oboru.

Průmysl umělé inteligence a technologické společnosti obecně nemají příliš velkou historickou důvěryhodnost. Jejich reakce na kritiku je vždy: „v minulosti jsme se mýlili; došlo k chybám; ale tentokrát je to jiné!“
Ale nikdy to není jinak.
Jediným způsobem, jak zjistit, zda je to tentokrát opravdu jinak, je počkat a zjistit, co říká věda a výzkum.

Udělej mi radost a pozvi mě na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.