COOLna

Nejvyšší manažeři společnosti Meta, včetně generálního ředitele Marka Zuckerberga, roky ignorovali varování před poškozováním dospívajících na jejích platformách, jako je Instagram, řekl podvýboru Senátu informátor společnosti.

Meta místo toho podporuje kulturu „nevidět žádné zlo, neslyšet zlo“, která interně přehlíží důkazy o škodlivosti a zároveň veřejně prezentuje pečlivě vytvořené metriky, aby problém bagatelizovaly, řekl Arturo Bejar, bývalý technický ředitel a konzultant Facebooku.

Bejarovo svědectví před členy soudního výboru Senátu přišlo po tom, co na podzim roku 2021 popsal jako neplodné výzvy Zuckerbergovi a jeho poručíkům na základě výzkumu, který jeho tým provedl na zkušenostech dospívajících a dalších uživatelů platforem Meta.

Slyšení následovalo po veřejné zprávě The Wall Street Journal, která obsahovala mnohá Bejarova tvrzení, včetně toho, že byl poprvé motivován ke studiu tohoto problému kvůli nechtěným sexuálním návrhům, které jeho vlastní 14letá dcera dostala od cizích lidí na Instagramu.

„Je nepřijatelné, aby 13letá dívka dostávala nabídku na sociálních sítích,“ uvedl Bejar s odkazem na statistiku ze svého výzkumu, podle níž více než 25 % 13 až 15letých uvedlo, že obdrželi nechtěné sexuální návrhy…na Instagramu. „To je nepřijatelné a moje práce ukázala, že to tak být nemusí.“

Bejarovo svědectví přišlo téměř přesně dva roky poté, co Frances Haugen, další bývalá zaměstnankyně společnosti Meta a členka Rady pro zodpovědná sociální média, přišla se spoustou interních dokumentů, které podle ní dokazují, jak Instagram věděl, že jeho služba může poškozovat děti.

„Skutečnost, že má e-maily a odpovědi od vedoucích pracovníků, jako je [bývalá provozní ředitelka] Sheryl Sandberg, je to opravdu, opravdu velký problém,“ řekla Haugen.

„Každý den bezpočet lidí uvnitř i mimo Meta pracuje na tom, jak pomoci udržet mladé lidi v bezpečí online,“ uvedl mluvčí Meta Andy Stone v prohlášení. „Problémy, které se zde objevily ohledně průzkumů vnímání uživatelů, zdůrazňují jednu část tohoto úsilí a průzkumy, jako jsou tyto, nás vedly k vytvoření funkcí, jako jsou anonymní upozornění na potenciálně škodlivý obsah a upozornění na komentáře.“
Stone dodal, že zatímco konkrétní průzkum vnímání uživatelů, na kterém Bejar pracoval, již ve společnosti neprobíhá, Meta stále provádí mnoho dalších typů průzkumů vnímání uživatelů a že některé z nástrojů, které zavádí pro dospívající – jako je funkce pro tiché ztlumení ostatních uživatelů. — jsou přímým výsledkem těchto průzkumů.

Zákonodárci napadli giganta sociálních médií a řekli, že je „v žádném případě nepřekvapila“ obvinění Bejara a vyzvali k rychlému schválení legislativy, která by ovládla Meta a další technologické giganty.

„Skryli před tímto výborem a všemi kongresovými důkazy o škodách, o kterých věděli, že jsou věrohodné,“ řekl demokratický senátor z Connecticutu Richard Blumenthal.

Republikán z Missouri Josh Hawley kritizoval velké technologické společnosti za to, že utrácely „hromady“ peněz, aby získaly „náraz“ na legislativní proces a zmařily návrhy zákonů, které by omezovaly moc tohoto odvětví. Obvinil také Meta, že „vařila knihy“ o datech souvisejících s poškozením duševního zdraví.

Republikánská senátorka z Tennessee Marsha Blackburn poznamenala, že generální ředitel Instagramu Adam Mosseri svědčil před Senátem krátce poté, co Bejar o svých obavách informoval jeho, Zuckerberga, Sandberga a produktového ředitele Chrise Coxe.

„Ve skutečnosti [Mosseri] svědčil jen pár měsíců poté, co jste mu poslali dva e-maily o ubližování mladistvým na platformě,“ řekl Blackburn. „Ve svém svědectví pan Mosseri řekl, cituji, „velmi nám záleží na dospívajících na Instagramu, což je částečně důvod, proč zkoumáme složité problémy, jako je šikana a sociální srovnávání, a provádíme změny.“ Souhlasíte s jeho vyjádřením?
Bejar odpověděl: „Souhlasím s tím, že provádějí výzkum. Nesouhlasím s tím, že provádějí změny.“

Bejar opustil Facebook v roce 2015, ale v roce 2019 se vrátil jako konzultant pracující na problémech s uživatelskou pohodou poté, co jeho dcera narazila na nechtěné sexuální návrhy. Přestože jeho dcera incidenty nahlásila, Facebook podle něj nic neudělal.
Bejar, kterého si Facebook najal, aby problém prostudoval, řekl, že brzy narazil na institucionální překážky.

„Zdá se mi, že firemní kultura je založena na ‚nevidět zlo, neslyšet zlo‘,“ řekl Bejar zákonodárcům. „Nechceme rozumět tomu, co lidé prožívají. A nejsme ochotni investovat do toho a nástrojů, které pomohou.“

Meta již dříve uvedla, že její pobídky jsou v souladu s uživateli v otázkách bezpečnosti a že Meta jedná agresivně na škodlivý materiál, protože ví, že jej uživatelé nechtějí vidět. Bejar však zákonodárcům řekl, že věří, že zkušenosti uživatelů by se významně zlepšily, kdyby byl Zuckerberg povinen zveřejňovat údaje z průzkumu o každém výdělku o špatných zkušenostech na firemních platformách, které sám uvedl.

Podle deníku Wall Street Journal zjistila Bejarova průzkumná práce, že více než 1 ze 4 uživatelů mladších 16 let uvedl, že má „špatnou zkušenost“ s Instagramem v důsledku toho, že „byl svědkem nepřátelství vůči někomu na základě jeho rasy, náboženství nebo identity“.

„Více než pětina se po zhlédnutí příspěvků ostatních cítila hůř,“ napsal Journal o Bejarově výzkumu, „a 13 % zažilo v posledních sedmi dnech nechtěné sexuální návrhy.“

Další důkazy z výzkumu Bejar zahrnovaly, že „téměř třetina mladých dospívajících viděla diskriminaci na základě pohlaví, náboženství, rasy a sexuální orientace,“ uvádí Blumenthal.

Jedním z klíčových obvinění Bejara je, že Meta nalila obrovské zdroje do automatizované detekce obsahu jasně porušujícího pravidla a zároveň odklonila zdroje od nákladných lidských kontrol situací, které neporušují úhledně nebo explicitně pravidla Meta, ale přesto mohou uživatele znepokojovat.

Poté, co Bejar kontaktoval Zuckerberga, Sandberga, Coxe a Mosseriho, Sandberg mu individuálně napsal, aby sympatizoval, a Mosseri uspořádal schůzku s Bejarem, aby o této záležitosti diskutoval. Bejar, který ze společnosti odešel o několik týdnů později v říjnu 2021, však tvrdí, že jeho stížnosti nebyly vyřešeny a že o Zuckerbergovi vůbec neslyšel.

Bejarovy důkazy, které jsou součástí mnohostátní federální žaloby proti Metě podané minulý měsíc, by mohly povzbudit více informátorů, aby se přihlásili, řekla Haugen. A dokresluje neúplný obraz, který byl veřejnosti prezentován, když poprvé svědčila, dodala.

Zákonodárci včetně Hawleyho a Blumenthala slíbili, že se pokusí do konce roku prosadit přes cílovou čáru významný zákon známý jako zákon o online bezpečnosti dětí.

„Big Tech je velmi ohrožena,“ řekl Blumenthal a zmínil předchozí vládní opatření k omezení škodlivých produktů. Řekl, že každodenní Američané chápou „škodu, která se děje“ a přirovnal ji ke škodám způsobeným kouřením. Řekl, že Big Tech je „příští Big Tobacco“.