Kluczowe dania na wynos
- Firmy używają sztucznej inteligencji do inwigilacji swoich pracowników.
- Amazon na początku tego roku zainstalował w swoich samochodach dostawczych kamery oparte na uczeniu maszynowym.
- Nadzór AI może prowadzić do problemów związanych z prywatnością i bezpieczeństwem, jeśli jest używany przez pozbawione skrupułów firmy.
Pracodawcy coraz częściej śledzą swoich pracowników za pomocą sztucznej inteligencji, a obserwatorzy twierdzą, że ta praktyka budzi obawy związane z prywatnością.
Amazon na początku tego roku zainstalował w swoich samochodach dostawczych kamery oparte na uczeniu maszynowym. Firma niedawno powiedziała swoim kierowcom, że muszą zgodzić się na ich użycie. Praktyka nadzoru w miejscu pracy może być legalna, ale nie wszyscy zgadzają się, że jest to etyczne.
„Firmy od dziesięcioleci korzystają z narzędzi do monitorowania pracowników, ale wraz z postępującą technologią stają się coraz bardziej inwazyjne”, powiedziała Aimee O'Driscoll, badaczka ds. bezpieczeństwa w witrynie internetowej Comparitech porównującej technologie, w wywiadzie e-mailowym.
„Większość monitorowania pracowników można uznać za naruszenie prywatności i można argumentować, że to, co robi Amazon, nie różni się zbytnio od posiadania kamer CCTV w biurze”.
Bądź obserwowany lub zwolniony
Około 75 000 kierowców dostawczych firmy Amazon w Stanach Zjednoczonych jest teraz zobowiązanych do podpisania formularza „zgody biometrycznej”. Formularz pozwolenia pozwala kamerom zasilanym sztuczną inteligencją obserwować lokalizację, ruch i dane biometryczne kierowców. Pracownicy, którzy nie podpiszą dokumentu, mogą zostać zwolnieni.
Nadzór AI śledzi wszystko, co robią kierowcy Amazon, naruszając domniemaną prywatność podmiotu, powiedział Chris Hauk, badacz prywatności na stronie internetowej Pixel Privacy, w wywiadzie e-mailowym.
„Obejmuje to nagrywanie za każdym razem, gdy obiekt ziewa lub drapie wrażliwy obszar” – dodał. „Kierowca ma przynajmniej pewne prawo do pozorów prywatności w swoim pojeździe.”
Nadzór pracowników przez sztuczną inteligencję to rosnący problem. Walmart opatentował technologię AI, która umożliwia słuchanie interakcji pracowników z klientami przy kasach, zauważył O’Driscoll.
Programista Enaible zapewnia narzędzia zwiększające produktywność oparte na oprogramowaniu AI. Różne firmy, w tym Macy’s, korzystają z systemu analitycznego Microsoft, który może monitorować zachowanie pracowników. Domino's wykorzystało technologię sztucznej inteligencji, aby sprawdzić, czy pizze są przygotowywane prawidłowo.
„Jednym z głównych problemów jest to, że gdy jest używany w niewłaściwy sposób, brak prywatności może prowadzić do problemów z bezpieczeństwem”, powiedział O’Driscoll.
"Dane pochodzące z monitoringu mogą trafić w ręce przestępców lub sami źli aktorzy mogą wykorzystać inwigilację AI do atakowania ofiar."
Biometryczne skanowanie twarzy daje matematyczną reprezentację twarzy osoby, której dane dotyczą, którą można wykorzystać do identyfikacji i śledzenia jej w dowolnym miejscu przez resztę życia, powiedział Ray Walsh, ekspert ds. prywatności w witrynie ProPrivacy. rozmowa e-mail.
„To stwarza poważne zagrożenie dla prywatności i bezpieczeństwa dla kierowców Amazon, których dane mogą zostać naruszone, ujawnione lub potencjalnie nawet wykorzystane przez rządowych szpiegów za pomocą nakazu” – dodał.
Ponieważ technologia AI jest stosunkowo nowa, nie ma konkretnych wytycznych dotyczących jej wykorzystania w zakresie prywatności, powiedział O’Driscoll. „To powiedziawszy, bezpieczeństwo prawdopodobnie zawsze będzie uzasadnioną wymówką dla naruszenia prywatności, więc Amazon jest objęty obecnymi intencjami” – dodała.
Chociaż pracownicy mają prawo zrezygnować lub wyrazić zgodę na proponowane monitorowanie AI, robią to w obliczu ogromnej nierównowagi mocy, O’Driscoll powiedział, że nadzór AI powinien zostać uregulowany. „Firmy powinny w idealnym przypadku mieć uzasadnione powody (takie jak bezpieczeństwo) do nadzoru AI” – dodała.
Niektóre stany uchwaliły ustawy, które ograniczają i regulują korzystanie z nadzoru w miejscu pracy, ale brakuje ustawodawstwa federalnego, zauważył Walsh.
W 2019 roku ustawa o odpowiedzialności algorytmicznej została wprowadzona do Izby Reprezentantów i Senatu, ale ostatecznie została odrzucona. Podobna ustawa może zostać wprowadzona w tym roku i „mamy nadzieję, że Kongres kierowany przez Demokratów i Biały Dom mogą zwiększyć swoje szanse na przejście”, powiedział Walsh.
Nie oczekuj prywatności w pracy
Nie wszyscy uważają, że inwigilacja kierowców przez Amazon jest naruszeniem prywatności.
„Uważam, że trudno jest argumentować, że pracownik ma uzasadnione oczekiwania co do prywatności w pojeździe należącym do firmy” – powiedział Will Griffin, dyrektor ds. etyki w firmie Hypergiant zajmującej się sztuczną inteligencją, w wywiadzie e-mailowym.
„Większym problemem jest to, że w ciągu kilku krótkich lat wszyscy ci kierowcy zostaną zastąpieni przez pojazdy autonomiczne. Tak więc każda debata na temat polityki kierowców stanie się punktem spornym, gdy flota stanie się w pełni autonomiczna.”
Sprawa Amazona podkreśla potrzebę związku lub ukierunkowanej interwencji federalnej jako sposobu na przywrócenie równowagi sił między pracownikami Amazona a firmą, powiedział Griffin.
„Chociaż pracownicy mają prawo zrezygnować lub wyrazić zgodę na proponowane monitorowanie AI, robią to w obliczu ogromnej nierównowagi mocy” – dodał.
