Nowy etap cenzury? Ta aplikacja ma pomóc w walce z „mową nienawiści”

Pracownicy Uniwersytetu Cambridge pracują nad aplikacją wykrywającą „hejt”. Ma ona ostrzegać odbiorców wiadomości przed „mową nienawiści”, która potencjalnie zmierza w ich stronę. Jak twierdzą, pomoże to ludziom „odzyskać kontrolę nad komunikacją”.

Do tego, by stworzyć skuteczną aplikację, ostrzegającą użytkowników przed czytaniem wiadomości z „mową nienawiści”, operatorzy sieci społecznościowych musieliby działać razem.

Stefanie Ullmannn z Cambridge Centre for Research in Arts, Social Sciences and Humanities współpracuje z grupą studentów nad systemem, który pozwoli użytkownikom „powstrzymać nienawiść”. Remedium ma być bowiem aplikacja analizująca treść wiadomości i rozpoznająca „hejt”. Następnie powinna poinformować użytkownika, jak bardzo prawdopodobne jest, że wiadomość, którą otrzymał, zawiera „mowę nienawiści”. Wówczas człowiek sam zadecyduje, czy jest gotów narazić się na jej przeczytanie, czy też nie.

– Z jednej strony chcemy chronić użytkowników, ale z drugiej strony nie chcemy gwałcić wolności słowa – mówiła Ullmann w rozmowie z „Deutschlandfunk”.

Użytkownicy mają w ten sposób „odzyskać trochę kontroli”. – W internecie może istnieć pewien rodzaj kwarantanny dla nienawistnych komentarzy – dodała.

Ma to być system działający podobnie, jak oprogramowanie antywirusowe. Badacze twierdzą, że algorytmy są wystarczająco rozwinięte, by analizować język i wykrywać „hejt”. Można zatem wykorzystać je do ochrony ludzi przed „mizantropijnymi” treściami – przekonują.

– Zasadniczo naszym zamysłem jest danie użytkownikom większej kontroli nad tym, co tak naprawdę chcą widzieć i czytać a czego nie – zapewniają naukowcy z Cambridge.

Jak podaje Deutschlandfunk, najwięcej trudności przysparza jednak używanie słów w różnych kontekstach, także sarkastycznie. Algorytmy – przy dużym dopływie danych – są co prawda w stanie rozpoznawać bardziej złożone „obelgi językowe”. Pracownicy Cambridge zastrzegają natomiast, że użytkownicy powinni także samodzielnie filtrować wiadomości – np. sprawdzać czy znają nadawcę.

Funkcję „cenzury hejtu” idealnie – zdaniem Ullmann – mogą wprowadzić sieci społecznościowe. Jeśli nadawca zdaje sobie sprawę, że jego wiadomość może nie zostać nawet odczytana, motywacja do jej napisania zmniejsza się. A to ma sprawić, że nienawiść choć częściowo zniknie z internetu. Co więcej, w przypadku naruszenia prawa nienawistną wiadomością, sprawa mogłaby być automatycznie przekazywana organom ścigania.

Facebook niechętny

Największym wyzwaniem ma być ostatecznie przekonanie Facebooka i jemu podobnych sieci do wprowadzenia takiego rozwiązania. Zdaniem Ullmann, Twitter jest w większym stopniu gotowy na wdrażanie walki z „mową nienawiści”.

Źródło: deutschlandfunk.de