COOLna

Tisíce uživatelů Redditu debatovaly s umělou inteligencí, aniž by o tom věděly. AI chatboti vytvoření výzkumníky z Curychu se pokusili ovlivnit názory lidí v diskusích na citlivá témata, jako je domácí násilí nebo rasismus. Vystupovali přitom jako běžní uživatelé. Vedení Redditu teď chystá žalobu.

Výzkumný tým z curyšské univerzity tajně testoval, jak dobře umělá inteligence dokáže manipulovat internetové diskuze. Zaměřil se na subreddit r/ChangeMyView – debatní komunitu, kde uživatelé zveřejňují své názory a výslovně žádají ostatní, aby jim je zkusili vyvrátit nebo nabídli jiný pohled. Pokud se autor nechá přesvědčit nebo argument považuje za kvalitní, udělí komentujícímu takzvaný symbol „delta“.

Do této diskuze se zapojili AI chatboti, kteří se vydávali za reálné uživatele. Vystupovali například jako muž zlehčující vlastní zkušenost se znásilněním, žena hovořící o domácím násilí, nebo mladík tmavé pleti kritizující hnutí Black Lives Matter. Jiný bot současně analyzoval profily ostatních diskutujících a generoval personalizované odpovědi.

Celkem umělá inteligence napsala v diskuzní skupině přes 1 700 komentářů. Podle předběžných závěrů výzkumu byly jejich příspěvky zhruba třikrát až šestkrát účinnější než komentáře od skutečných uživatelů – měřeno právě podle systému „delta“, kterým Reddit oceňuje změnu názoru.

„Podle nás to nebylo v pořádku,“ reagovali na odhalení chatbotů moderátoři skupiny. Mnohem ostřejší reakce přišla ze strany samotného Redditu. Podle šéfa právního oddělení Bena Leeho švýcarští výzkumníci porušili pravidla platformy, etiku výzkumu a narušili i důvěru uživatelů: „To, co tým z Univerzity v Curychu provedl, je morálně i právně nepřijatelné.“ Společnost proto připravuje právní kroky.

Univerzita už oznámila, že výsledky studie nebudou publikovány a její etická komise zpřísní dohled nad podobnými projekty.

Celý případ znovu oživuje obavy z rostoucího vlivu umělé inteligence v digitálním prostoru. Například studie Kalifornské univerzity v San Diegu z března 2025 ukázala, že model GPT-4.5 od OpenAI dokáže přesvědčit 73 % lidí, že komunikují s člověkem. Že by takzvaná teorie „mrtvého internetu“, podle které většinu online obsahu generují roboti, už nebyla jen výmyslem nositelů alobalových čepic?

Udělej mi radost a pozvi mě třeba na kávu. Opravdu mě potěší, když si ji jednou nebudu muset koupit sama.