Sociální sítě experimentují se zaváděním softwaru, který by měl eliminovat hate speech

23. 2. 2016

Počítačová programátorka Aja Bogdanoff po přečtení knihy o zvláštním poklesu počtu vražd dostala nápad jak vytvořit software, který by eliminoval nenávistné útoky na sociálních sítích. Přečetla si knihu Stevena Pinkera Better Angels of our Nature (Lepší andělé naší přirozenosti), která se zabývá vývojem lidského násilí. "Kniha upozorňuje, že lidé jsou vždycky přesvědčeni, že jejich činy jsou plně ospravedlnitelné. Ať dělají cokoliv, myslí si, že pro to mají dobré důvody. Takže jsem si uvědomila, že je nutno ten proces narušit a zastavit."

Tento měsíc na filmovém festivalu v Sundance požadoval internetový průkopník Tim Berners-Lee, aby programátoři začali vytvářet "systémy, které produkují konstruktivní kritiku a harmonii, nikoliv negativitu a zastrašování."

Pro idealisty, jako je Berners-Lee, skutečnost, že se internet stal místem, kde je nutno do vyčerpání bojovat proti nenávistným projevům, je urážkou zakládajících hodnot internetu. A pro velké internetové korporace, jako je Twitter, Instagram či Facebook, jsou nenávistné útoky hrozbou. Kdo bude chtít zveřejňovat své reklamy na stránkách, kde se lidé zuřivě a nenávistně perou?

A tak vzniká program Civil Comments (Slušné komentáře), který založila Bogdanoffová spolu s Christou Mrganovou.

Nápad je to jednoduchý. Než je uživateli dovoleno, aby na sociální síť umístil nějaký svůj výrok, má povinnost ohodnotit dva náhodně vybrané výroky jiných uživatelů co do míry zdvořilosti a kvality argumentace. Toto hodnocení se agreguje a vytváří se systém kvalitativního hodnocení výroků, které daná sociální síť je ochotna tolerovat a zveřejnit.

Nesmírně důležité je to, že uživatelé mají povinnost ohodnotit z těchto hledisek (míra zdvořilosti a kvalita argumentace) i svůj vlastní výrok a mohou ho přepsat.

Tento proces připomíná uživatelům, že na Facebooku prostě "nekřičí jen do tmy", ale že je posuzují i jiní lidé. Systém se nyní testuje na fórech dvou amerických deníků. Mrganová zdůrazňuje, že jeho zavedení nevedlo k vzniku sterilní konverzace. "Lidi dál dělají vtipy, jsou ironičtí, vyjadřují silné názory. Avšak už se osobně neuráží."

Požadovat od lidí, aby se navzájem posuzovali, je překvapivě mocná věc. Stejně tak funguje hodnotící systém taxíků Uber, který žádá taxíkáře i jejich pasažéry, aby se navzájem zhodnotili.

Facebook se v poslední době snaží výrazněji podporovat harmonii na svých stránkách. Sheryl Sandberg hovořila v lednu v Davosu o tom, že by uživatelé mohli podvracet džihádistickou propagandu soustředěnou protiofenzívou organizované zdvořilosti. Něco podobného udělali nedávno uživatelé Facebooku v Německu, kteří zahltili neonacistickou stránku na Facebooku výroky vstřícnosti, inkluzivity a snášenlivosti.

Mobilizovat drtivou většinu rozumných lidských bytostí k tomu, aby marginalizovaly miniaturní, avšak přehnaně hlučnou agresivní menšinu, by mohlo být rozumné.

Psycholožka Susan Wienschenková srovnává rychlost, s níž agresivní chování kolonizuje sociální sítě, s nechvalně známým jevem "rozbitých oken", která způsobují, že určitá městská čtvrť upadá. Jediný malý incident, pokud se proti němu lidi nezačnou hromadně bránit, rychle situaci normalizuje. Vytváří dojem, že všechno je povoleno, a tak vznikají ještě vážnější problémy.

Uvažuje se také, že by software blokoval určitá slova, například rasistické nadávky. Potíž je, že slova činí drtivou většinou nepřijatelný až jejich kontext.

Situace na sociálních sítích se ale mění, i v komunitě, která si kdysi nade vše cenila svobody slova. "Když jsem začala se svou prací, říkala jsem lidem, na čem pracuji, a oni reagovali: 'Aha, vy jste tedy cenzorka.' Dnes, když lidem řeknete, že pracujete na softwaru jménem Civil Comment, Slušné výroky, reagují: 'To je bezvadné, díky'."

Podrobnosti v angličtině ZDE

0
Vytisknout
3257

Diskuse

Obsah vydání | 25. 2. 2016