Doporučovaná videa na YouTube všichni známe. Je to výborný způsob, jak objevit novou hudbu nebo cokoli jiného, co nás zajímá. Funguje to až překvapivě dobře – YouTube, potažmo Google, sleduje každé vaše kliknutí, každou interakci a po nějaké době o vás a vašich preferencích ví víc než vy sami. Zohledňuje například i denní dobu, takže můj YouTube mi správně nabízí ráno hudbu, podvečer pohádky pro děti a před spaním nějaké dokumenty.
Jenomže každý, kdo viděl alespoň jeden díl Černého zrcadla, už tuší, že každá taková technologie má i svoji stinnou stránku. Ta se naplno projeví v případě, že kliknete na nějaké takové kontroverzí video. V mém případě s chemtrails to spustilo lavinu: mimozemšťané mezi námi, reptiliáni, placatá Země, New World Order, nová pravda o útocích z 11. září, falešné přistání na Měsíci… Výčet těchto témat je spíše k pousmání, ale jsou mezi nimi i taková, ze kterých vyloženě mrazí. Zatímco pochybnosti o přistání na Měsíci nebo zavraždění JFK lze brát jako intelektuální cvičení v nedůvěře ve vizuální média, pro mnoho podobných nápadů nenajdeme žádné vlídné slovo. Jde například odpůrce očkování nebo popírače holokaustu a jiné přepisovatele dějin.
Jak to funguje?
Ještě zajímavější však bylo dění, když jsem se z této „temné strany internetu“ pokoušel vrátit zpátky. YouTube mi vytrvale nutil další a další konspirační videa a dalo mi hodně práce, než jsem promazáváním doporučení dosáhl původního stavu. Skoro jako by měl někdo nebo něco zájem na tom, aby se mi dostalo co nejvíce „alternativní pravdy“. Shodou okolností vyšel v té době článek na thenextweb.com, kde bývalý programátor YouTube, který na doporučovacím algoritmu pracoval, popisuje jeho nástrahy a servítky si přitom nebere.
Hlavním cílem doporučení totiž není vám nabídnout co nejkvalitnější a nejrelevantnější video, ale takové, co vás co nejvíc „zaháčkuje“, abyste na dané platformě strávili co nejvíce času a shlédli co nejvíce reklamy. Přitom se využívá fakt, že do popředí doporučení se dávají videa, která vzbudí největší ohlas. To všechno dává smysl, jenže teď přijde na řadu ten zlovolný obraz. Největší zapojení diváků s železnou pravidelností vzbuzují kontroverzí videa. Zatímco pod perfektně zpracovaným dokumentem o přírodě dosáhnete jen pár lajků, kdejaký blábol o chemtrails spustí hotový flamewar.
Jasně to ukazuje tento graf. Čím blíž je obsah videa zakázané zóně, tím větší zapojení vyvolává. Je to taková šedá zóna. Zatímco tvrzení o neexistenci holocaustu by vás ve většině Evropy mohlo stát i svobodu, otevřeně tvrdit, že očkování je spiknutí farmaceutických firem je v pořádku. Obojí však může napáchat nemalé škody.
Guillaume Chaslot, který na problém upozornil, takový přístup označuje jako „jedovatý“ (toxic). Zkuste si třeba představit, že jste mladý syn afrických migrantů a chcete na YouTube zjistit, proč někteří lidé zabíjejí ve jménu islámu. Nebo je vám 13 let a zajímá vás, proč se někteří lidé sebepoškozují. V obou dvou případech máte daleko větší šanci dostat se ke kontroverznímu obsahu a následky si domyslete sami.
Hlavním cílem doporučení totiž není vám nabídnout co nejkvalitnější a nejrelevantnější video, ale takové, co vás co nejvíc „zaháčkuje“, abyste na dané platformě strávili co nejvíce času a shlédli co nejvíce reklamy.
Problém se netýká pouze YouTube. Podobný způsob využívají prakticky všechny sociální sítě. Mnohé studie tak dokazují, že fake news se po nich šíří daleko rychleji než ty skutečné. Proč? Lidé na ně budou spíše reagovat, ať kvůli jejich skandální povaze, anebo ve snaze je vyvrátit.
To bude ještě problém…
Je to jasná ukázka toho, že nasazování umělé inteligence nebude tak růžové, jak to vypadalo na začátku. Když někoho přejede autonomní vozidlo, je z toho hned poprask. Ale zkuste se zamyslet, kam nás zavedly výše popsané mechanismy „doporučovaného obsahu“. Někteří je viní za to, že politika napříč různými zeměmi nabrala v poslední dekádě autoritářský a populistický směr, aniž by pro to byl nějaký zjevný důvod jako ekonomická krize nebo globální konflikt.
Takže než příště kliknete na něco, co YouTube nebo Facebook chce, abyste viděli nebo četli, pak… Možná neklikejte vůbec.
