Facebook powiedział, że testuje technologię moderowania sztucznej inteligencji w Grupach dyskusyjnych, aby ograniczyć konflikty w postach i komentarzach.
Nowe narzędzie oparte na sztucznej inteligencji nosi nazwę Alerty o konfliktach i ma na celu pomóc administratorom grup w sprawowaniu większej kontroli nad ich społecznościami. Technologia AI powiadomi administratora, jeśli zauważy „kontrowersyjne lub niezdrowe rozmowy”, dzięki czemu administrator może szybciej podjąć potrzebne działania.
Dla przeciętnego użytkownika Facebooka to nowe narzędzie oznacza, że najprawdopodobniej zobaczysz mniej kłótni i kłótni w postach obserwowanych grup, więc ogólnie rzecz biorąc będzie mniej negatywnych.
Administratorzy mogą używać narzędzia Alerty o konfliktach, aby tworzyć alerty, gdy użytkownicy komentują określone słowa lub wyrażenia, a systemy uczące się mogą wykryć takie przypadki, aby ostrzec administratora, gdy się pojawią. Narzędzie pozwala również administratorom ograniczyć aktywność dla określonych osób i postów.
Facebook powiedział The Verge, że uczenie maszynowe wykorzysta „wiele sygnałów, takich jak czas odpowiedzi i ilość komentarzy, aby określić, czy zaangażowanie między użytkownikami prowadzi lub może prowadzić do negatywnych interakcji”.
Facebook używa już narzędzi AI do oznaczania innych rodzajów treści na swojej platformie, w tym mowy nienawiści. Zgodnie z raportem dotyczącym egzekwowania standardów społeczności z sierpnia 2020 r., narzędzie AI Facebooka do mowy nienawiści było w 95% dokładne, w porównaniu do 89% z pierwszego kwartału 2020 r. Facebook powiedział, że zwiększył swoje działania przeciwko treściom szerzącym nienawiść z 9,6 miliona wystąpień w pierwszym kwartale 2020 do 22,5 mln w drugim kwartale.
Dla przeciętnego użytkownika Facebooka to nowe narzędzie oznacza, że najprawdopodobniej zobaczysz mniej kłótni i kłótni w postach obserwowanych grup
Sieć społecznościowa pracuje również nad technologią AI, która może „widzieć” zdjęcia, używając surowych danych, aby umożliwić modelowi samouczenie się – niezależnie i bez użycia algorytmu – podczas wyświetlania większej liczby zdjęć. Projekt AI, znany jako SEER, może utorować drogę dla bardziej wszechstronnych, dokładnych i adaptowalnych modeli widzenia komputerowego, przy jednoczesnym zapewnieniu użytkownikom mediów społecznościowych lepszych narzędzi wyszukiwania i ułatwień dostępu.
