Twitter ogłosił wyniki otwartego konkursu, aby znaleźć błędy w swoim systemie przycinania zdjęć.
Wyzwanie bounty rozpoczęło się w lipcu po tym, jak użytkownicy Twittera wykazali, że automatyczne narzędzie do przycinania w witrynie faworyzuje twarze osób o jaśniejszej karnacji nad osobami o ciemniejszej karnacji. Pojawiło się kilka pytań dotyczących tego, w jaki sposób oprogramowanie nadało priorytet kolorowi skóry i niektórym czynnikom w stosunku do innych.
Wyzwanie polegało na znalezieniu innych błędów i uprzedzeń, które może mieć system przycinania, aby rozwiązać problemy.
Pierwsze miejsce zajął Bogdan Kułynych, którego zgłoszenie pokazało, jak filtry upiększające mogą oszukać model scoringowy algorytmu, który z kolei wzmacnia tradycyjne standardy piękna. Zgłoszenie wykazało, że algorytm preferował młode i szczupłe twarze o jasnej lub ciepłej karnacji. Kulynych wygrał 3 500 $.
Drugie miejsce zajął HALT AI, startup technologiczny z Toronto, który odkrył, że zdjęcia osób starszych i niepełnosprawnych zostały wycięte ze zdjęć. Zespół otrzymał 2 000 $ za drugie miejsce.
Trzecie miejsce i 500 dolarów przypadło Roya Pakzad, założycielowi Taraaz Research, który odkrył, że algorytm faworyzuje przycinanie łacińskich pism nad arabskimi, co może zaszkodzić różnorodności językowej.
Szczegółowe wyniki przedstawił na DEF CON 29 Rumman Chowdhury, dyrektor zespołu META na Twitterze. Zespół META bada niezamierzone problemy w algorytmach i odsiewa wszelkiego rodzaju uprzedzenia związane z płcią i rasą, jakie mogą mieć takie systemy.
Dane uzyskane z tego konkursu zostaną wykorzystane do złagodzenia błędów i uprzedzeń w algorytmie przycinania i zapewnienia bardziej integracyjnego środowiska.
