Je to jev, který všichni dobře známe i ze skutečného světa, nejenom ze sociálních sítí. Jakmile má nějaká zpráva silný emocionální náboj, má tendenci šířit se rychleji a lépe, bez ohledu na pravdivost nebo hodnotu sdělení. Zatímco třeba takové klepy na pracovišti mohou do problémů dostat jednotlivce, masivních charakter sociálních sítí má dosud nepředstavitelné dopady na celou společnost.
Jelikož většinu sociálních sítí provozují soukromé firmy, jejichž cílem je zisk, je takové fungování přímo vepsáno v DNA těchto systémů. Jejich autoři se sice tváří, že s dezinformacemi, nenávistí a nejrůznějšími formami extrémismu bojují, ale podle Frances Haugenové, která ve Facebooku pracovala jako produktová manažerka a datová analytička, je opakem spíše pravda.
„Kupují si zisk za naši bezpečnost,“ řekla v pořadu 60 minut na CBS News. Podle ní se komunikace ve firmě nesla ve znamení neustálého konfliktu toho, co je dobré pro Facebook a co je dobré pro veřejnost.
Zlom přišel v roce 2018, kdy sociální síť měnila algoritmy pro zobrazování relevantního obsahu. Nové nastavení mělo zvýšit angažovanost uživatelů a zcela nepřekvapivě je to takové, které vyvolávají strach a nenávist. Mezi nejčastěji sdílenými příspěvky jsou ty, které obsahují dezinformace a toxický nebo násilný obsah.
Pro srovnání uvádí svoje působení v Pinterestu, kde žádné takové tlaky od vedení nezaznamenala. Naopak ve Facebooku měly existovat interní studie, které zkoumaly, jaký podíl toxického a násilného obsahu uživatelé ještě snesou.
