Kluczowe dania na wynos
- Eksperci ds. prywatności zgłaszają obawy dotyczące wykorzystywania publicznych zdjęć na Instagramie przez Facebooka do szkolenia sztucznej inteligencji.
- Program został nauczony rozpoznawania obrazów, pokazując komputerowi ponad miliard zdjęć publicznych.
- Polityka prywatności Instagrama zawiera sekcję, która informuje użytkowników, że informacje mogą być wykorzystywane w badaniach i rozwoju.
Wykorzystywanie zdjęć na Instagramie przez Facebooka do szkolenia sztucznej inteligencji budzi obawy dotyczące prywatności.
Gigant mediów społecznościowych ogłosił niedawno, że zbudował oprogramowanie, które może uczyć się z tego, na co patrzy. Program został nauczony rozpoznawania obrazów poprzez przeglądanie ponad miliarda zdjęć publicznych. Eksperci twierdzą, że użytkownicy powinni mieć świadomość, że Facebook używa ich zdjęć.
„Chodzi o uzyskanie zgody” – powiedział James E. Lee, dyrektor operacyjny Centrum zasobów dotyczących kradzieży tożsamości, w wywiadzie e-mailowym.
Polityka prywatności Instagrama, której większość ludzi prawdopodobnie nie czyta, bardzo wyraźnie stwierdza, że firma zastrzega sobie prawo do wykorzystania publikowanych zdjęć w celach badawczych. Użytkownicy mogą włączyć/wyłączyć rozpoznawanie twarzy w swoich ustawieniach prywatności. „
Lepsze niż reszta
Firma twierdzi, że program Facebooka, nazywany SEER od SElf-suERvised, pokonał inne modele sztucznej inteligencji (AI) w teście rozpoznawania obiektów. Program uzyskał „wynik dokładności klasyfikacji” 84.2%, gdy został poddany testowi, który sprawdza, czy program AI może zidentyfikować to, co znajduje się na zdjęciu.
„Wyniki SEER pokazują, że samonadzorowane uczenie się może doskonale radzić sobie z zadaniami widzenia komputerowego w warunkach rzeczywistych” - napisała firma w poście na blogu.
"To przełom, który ostatecznie otwiera drogę do bardziej elastycznych, dokładnych i adaptowalnych modeli widzenia komputerowego w przyszłości."
Chociaż warunki Facebooka mogą umożliwiać im wykorzystywanie danych użytkownika w taki sposób, większość użytkowników nie jest wyraźnie i aktywnie świadoma, że ich dane są wydobywane w takich celach.
Jeżeli zostanie wprowadzony komercyjnie, SEER pomoże identyfikować przedmioty, a nie ludzi, bez zaprogramowania za pomocą etykiety informacji o tym, co znajduje się na zdjęciu, powiedział Lee. „To wydajniejszy i szybszy sposób niż obecna metoda, która wymaga ogromnych zbiorów danych w celu dopasowania obiektu do jego tożsamości” – dodał.
"Zawsze istnieje możliwość nadużycia, ale istnieją również uzasadnione potencjalne korzyści z tego rodzaju technologii."
Program Facebooka może pomóc firmie lepiej kontrolować treści, które naruszają jej zasady, na przykład ograniczając niechcianą ekspozycję na obsceniczne lub graficzne obrazy, powiedziała Aimee O’Driscoll, badaczka ds. bezpieczeństwa w witrynie Comparitech zajmującej się prywatnością. Może być również używany do automatycznego opisywania obrazów, poprawiając wrażenia użytkownika dla osób z wadami wzroku.
Zgodziłeś się już na ten program
Polityka prywatności Instagrama zawiera sekcję, która informuje użytkowników, że informacje mogą być wykorzystywane w badaniach i rozwoju. „Firma wykorzystuje swoją skarbnicę danych do innej części swojej działalności, podobnie jak wykorzystuje dane użytkowników do zasilania swojej działalności reklamowej” – powiedział O’Driscoll.
"Mimo to użytkownicy mogą nadal czuć się nieswojo, gdy ich obrazy są używane w ten sposób."
Yashar Behzadi, dyrektor generalny Synthesis AI, firmy wykorzystującej sztuczną inteligencję do widzenia komputerowego, powiedział, że najnowsze postępy w sztucznej inteligencji Facebooka stanowią „znaczną poprawę” zdolności widzenia komputerowego.
„Użytkownicy mogą prawdopodobnie oczekiwać lepszego tagowania obrazów i wyszukiwania kontekstowego, podczas gdy reklamodawcy skorzystają na dokładniejszym kierowaniu na użytkowników” – dodał.
Ale podejście Facebooka do wykorzystywania miliardów zdjęć na Instagramie budzi poważne obawy dotyczące prywatności i przepisów, powiedział Behzadi.
„Chociaż warunki Facebooka mogą pozwalać im na wykorzystanie danych użytkownika w taki sposób, większość użytkowników nie jest wyraźnie i aktywnie świadoma, że ich dane są wydobywane w takich celach”, powiedział.
"Uważamy, że firmy powinny być bardziej szczere i przejrzyste w stosunku do użytkowników, umożliwiając im pełną kontrolę nad swoimi danymi."
Wiele innych firm wykorzystywało sztuczną inteligencję do identyfikowania zawartości obrazu, wskazał Bobby Gill, dyrektor generalny dewelopera aplikacji Blue Label Labs, w rozmowie e-mailowej. „Jednak fakt, że prawie na pewno zostanie to wykorzystane w marketingu, jest niepokojący” – dodał.
Nowy program może budzić potencjalne obawy dotyczące prywatności, w zależności od tego, jak Facebook planuje korzystać z systemu, powiedział Gill.
„Te dane byłyby prawdopodobnie dostępne dla marketerów technicznych, którzy wykorzystaliby je do identyfikacji pewnych trendów w oparciu o różne elementy zidentyfikowane na obrazie”, powiedział.
"Na przykład możliwość pobierania informacji z obrazów, które ludzie publikują, dodaje kolejny wymiar dla systemów asocjacyjnych, które generalnie wykorzystują zachowanie do profilowania i kierowania do osób. Może dojść do wniosku, że każdy z, powiedzmy, żabami w 3 7% ich zdjęć z dużym prawdopodobieństwem kupi sprzęt do ćwiczeń w domu."
