Víte o tom, že každý uživatel Facebooku dává automaticky souhlas s tím, že se může stát součástí sociálního experimentu? Již před lety jeden takový velký experiment v režii DARPA proběhl a je zřejmé, že další následují.
Co když jste i vy součástí nějakého dalšího experimentu, aniž to tušíte?
Joe Rogan se sešel s harvardskou profesorkou a odbornicí na kontrolu mysli Rebeccou Lemovovou a netrvalo dlouho a rozhovor se stočil k jednomu z jeho oblíbených témat: vládnímu zasahování do našich digitálních životů.
Rogan zahájil rozhovor slovy: „Existuje tolik různých druhů řízení mysli.“
„Jedna z věcí, o kterých jsme v tomto podcastu hodně mluvili, je, že obrovské procento toho, co vidíte na sociálních sítích, pokud jde o interakce a debaty, není skutečné. Není to organické,“ vysvětlil.
„Je to státem řízené a financované, a ať už jsou to zahraniční vlády nebo naše vláda nebo dokonce korporace, dostáváte anorganický diskurz, který je navržen tak, aby vytvořil příběh, a který je formou kontroly mysli,“ dodal.
Lemovová se tohoto bodu chytila a šla ještě dál. I když lidé vědí, že je něco falešné, vysvětlila, náš mozek stále reaguje, jako by to bylo skutečné.
„Jo. Myslím, že i na základní úrovni. Je známo – a studie to ukázaly, že reagujeme, jako by to bylo organické a skutečné,“ řekla.
„I když někdo lajkuje váš příspěvek, reakce je stejná jako osobní interakce,“ dodala.
Nejsou to jen vlády, které tahají za nitky, varovala. Samotné platformy jsou navrženy tak, aby ovlivňovaly to, jak se cítíme.
„Myslím, že v jádru existuje určitý způsob, že na emocionální úrovni to není jen manipulace s myšlenkami,“ řekla, „ale je tu určitý druh emočního inženýrství, které je zabudováno do platforem a ani nevyžaduje, víte, zpočátku zapojení vlády.“
Lemovová poodkryla oponu DARPA, kontroverzní vládní agentury pro obranný výzkum, a její skryté role při utváření digitálního světa, ve kterém nyní žijeme.
„DARPA byla zapojena do vývoje internetu a věcí jako je rozpoznávání vzorů,“ řekla. „Vláda financovala mnoho, mnoho studií.“
Ale to, co ji nejvíce znepokojovalo, nebyla jen technologie – bylo to to, jak je tato technologie používána.
„To, co mě začalo zajímat, sociální média a to, jak je spojuji s epizodami vymývání mozků. Vytváří stavy emocionální nákazy, které ve skutečnosti nejsou o přesvědčování lidí o jiném způsobu myšlení,“ vysvětlila.
Pokračovala: „Ale je to více o tom, jak se cítíte ohledně toho, co si myslíte.“
„Tento emocionální posun,“ řekla, „odráží přesnou taktiku používanou v sektách.“
„Není to tak, že by to změnilo mé myšlenky,“ řekla. „Je to o tom, jak jste se cítili ohledně těchto myšlenek.“
A uživatelé neměli ani tušení, že se to děje.
„Četla jsem o slavném experimentu na Facebooku, který se odehrál v roce 2012 a byl publikován v roce 2014, kde oznamují, že dosáhli masové emocionální nákazy ve velkém měřítku,“ řekla Roganovi.
Vysvětlila, jak Facebook měnil informační kanály lidí bez jejich vědomí nebo souhlasu.
„Kdykoli jdete na platformu, souhlasíte s tím, že budete testováni nebo AB testováni. Takže tomuto experimentu byla vystavena skupina více lidí, kteří byli emocionálně změněni negativním směrem, měřeno softwarem pro počítání slov,“ řekla.
Dodala, že výsledky jsou hluboce znepokojivé.
„A zjistili, že ta skupina, která byla negativně vystavena, také reagovala negativněji, jak bylo posuzováno podle jejich příspěvků, lajků a reakcí.“
„Skupina, která byla vystavena pozitivnějšímu zpravodajství změnou algoritmu, pak měla také měřitelný statisticky významný účinek pozitivnější emocionální odezvy – a kontrolní skupina tím nebyla změněna.“
Jinými slovy, Facebook emoce nejen studoval, ale aktivně je utvářel.
A nikdo nebyl nikdy varován.
Plný rozsah experimentu vyšel najevo až o dva roky později, kdy vědci konečně přiznali, co udělali.
Datoví vědci Facebooku v tichosti manipulovali se zdroji 689 003 uživatelů – odstranili buď všechny pozitivní příspěvky, nebo všechny negativní, aby pozorovali emocionální dopad.
Pokud vám váš informační kanál v lednu 2012 připadal neobvykle bezútěšný nebo podezřele optimistický, je možné, že jste byli jeho součástí – a nikdy jste o tom nevěděli.
Tým stojící za studií, vedený datovým vědcem Adamem Kramerem, nakonec publikoval svá zjištění ve vědeckém časopise a vysvětlil výsledky chladnými, klinickými detaily:
„Když se pozitivní projevy snížily, lidé vytvářeli méně pozitivních příspěvků a více negativních příspěvků; když byly negativní výrazy sníženy, došlo k opačnému vzorci,“ uvádí se v dokumentu.
Byl to nepopiratelný důkaz: emoce jsou nakažlivé – a sociální média by mohla být zneužita jako zbraň k manipulaci nálady ve velkém.
Experiment trval pouhý týden, ale pro ty, kteří se chytili do sítě algoritmu, mohly emocionální efekty přetrvávat mnohem déle.
Věci nabraly znepokojivý obrat poté, co Lemovová vysvětlila, že když byl experiment konečně zveřejněn, reakce byla okamžitá – a v některých případech srdcervoucí.
A na facebookové stránce výzkumné skupiny, která experiment provedla, nejméně jeden uživatel napsal:
„Mohl bych někdy zjistit, jestli jsem byl v tom experimentu?
Protože jsem byl v té době na pohotovosti a vyhrožoval jsem, že spáchám sebevraždu, a chtěl jsem vědět, jestli byl můj zdroj změněn a možná mě to dostalo do tohoto stavu.“
Ale neexistoval způsob, jak to vystopovat.
„Samozřejmě, že se to nikdy nemohli dozvědět a nedá se to vystopovat zpět. A další lidé měli podobnou reakci,“ řekla Lemovová.
Tato odhalení byla natolik závažná, že vyvolala vyšetřování britské vlády, která zvažovala sankce kvůli mezinárodnímu dosahu experimentu.
„A dokonce proběhlo vyšetřování britské vlády, zda by to mělo být sankcionováno, protože to ovlivnilo uživatele na mezinárodní úrovni,“ dodala.
Nakonec však nebyl nikdo pohnán k odpovědnosti.
„Nakonec se nezdá, že by existovaly nějaké sankce, které by vzešly od kohokoli s tím spojeného,“ řekla.
Žádný trest. Žádná varování. Žádná transparentnost.
A ve vzduchu stále visí otázka: kolik dalších experimentů se právě teď děje, skrytých všem na očích?
