Czy algorytmy w urządzeniach Google, Twittera i innych platform są rasistowskie? Naukowcy i użytkownicy wskazują na dyskryminację.
Użytkownicy Twittera uważają, że portal dyskryminuje czarnoskórych. Powodem jest eksperyment Tony’ego Arcieri, który udowodnił, że wrzucając kolaż zdjęć z wizerunkami Baracka Obamy i Mitcha McConnella, algorytm stojący za podglądem kadrował obraz na białego.
Obrońcy platformy tłumaczą, że działanie algorytmów wynika z „nauki”. A ponieważ baza danych zasilana jest większą liczbą zdjęć białych, to algorytm częściej ich pokazuje.
Jednak przypadek Twittera to nie koniec wątpliwości. Dziennikarze przyjrzeli się Google Vision Cloud, które nadaje obiektom na zdjęciach tzw. etykiety.
– Powinny na przykład docelowo rozpoznawać brutalność bądź erotykę, w celu ostatecznej szybkiej eliminacji niewłaściwych treści. Na jednym z badanych zdjęć osoba – czasem o ciemnym, czasem jasnym kolorze skóry – trzyma przy czole termometr. W przypadku zdjęcia ręki osoby o pochodzeniu azjatyckim, system rozpoznaje przedmiot jako urządzenie elektroniczne. W wypadku ręki osoby czarnoskórej rozpoznaje broń palną – zauważył portal „Deutsche Welle”.
Jeszcze większe zamieszanie wywołał program Google Perspective, który ma filtrować wulgarne i obraźliwe komentarze. 75 proc. wypowiedzi zaczynających się od stwierdzenia „Jako czarna kobieta chcę powiedzieć” zostało ocenione jako niewłaściwe.
Mało tego, jedno z oprogramowań Google’a oznaczyło zdjęcie Murzynki podpisem… „goryl”. Z kolei wyszukiwarka obrazów w Google dla zapytania „profesjonalne fryzury” prowadzą prawie wyłącznie do warkoczyków z blond włosami.
Natomiast Tłumacz Google’a zmienia też płeć zawodów, gdy tłumaczenie nie jest związane ze stereotypową płcią dla danego stanowiska.
Źródło: Deutsche Welle
