Kluczowe dania na wynos
- Systemy AI, które monitorują ciężarówki dostawcze, niesprawiedliwie karzą kierowców Amazon, twierdzi nowy raport.
- System Amazon wpisuje się w rosnący trend firm wykorzystujących technologię do zdalnego monitorowania swoich pracodawców.
-
Niektóre oprogramowanie AI umożliwia pracodawcom ciągłe monitorowanie zachowań pracowników w tle i rysowanie wzorców w ich przepływie pracy.
Pracodawcy coraz częściej sięgają po oprogramowanie do zdalnego monitorowania pracowników, co budzi obawy niektórych zwolenników ochrony prywatności.
Nowy raport twierdzi, że kamery zasilane sztuczną inteligencją w samochodach dostawczych Amazon niesprawiedliwie karały kierowców. Artykuł wykazał, że kierowcy cierpią z powodu błędnych ostrzeżeń, nieprawidłowych kart wyników dla kierowców, niepraktycznych założeń dotyczących warunków drogowych oraz stosowania przez kierowców praktyk mających na celu obejście technologii.
„Podczas gdy sztuczna inteligencja się poprawia, nadal będą popełniane błędy” – powiedział Lifewire Raymond Ku, dyrektor Centrum Prawa i Polityki Cyberprzestrzeni na Uniwersytecie Case Western Reserve w wywiadzie e-mailowym. „W kwestii uczciwości, myślę, że wszyscy wierzymy, że ktoś, kto zostanie w jakikolwiek sposób ukarany przez podejmowanie decyzji przez sztuczną inteligencję, powinien być świadomy tego faktu i mieć możliwość zakwestionowania tej decyzji”.
Kamery AI Amazona
Amazon powiedział, że zainstalował kamery zasilane sztuczną inteligencją w swoich pojazdach dostawczych jako środek bezpieczeństwa. Kamery są przeznaczone do monitorowania sytuacji, w których kierowcy dostawczy wykonują niebezpieczne manewry, takie jak poruszanie się po znakach stopu lub wykonywanie nielegalnych zawracania.
Gdy kamery wykryją możliwe „zdarzenia” związane z niebezpieczną jazdą, zdarzenia te mają wpływ na wyniki pracowników. Niższe wyniki zmniejszają szanse kierowców na premie, dodatkowe wynagrodzenie i nagrody.
Ale kierowcy Amazon powiedzieli płycie głównej, że są karani za niektóre nawyki jazdy, które są uważane za bezpieczne lub poza ich kontrolą. Amazon nie odpowiedział na prośbę Lifewire o komentarz.
Ku zwrócił uwagę, że skoro kierowcy zgodzili się na nagrywanie, nie cierpią z powodu naruszenia prywatności zgodnie z prawem.
„Nie oznacza to jednak, że przeciętny pracownik byłby zadowolony z nadzoru lub nie sprzeciwiłby się, gdyby mógł” – dodał. „Jest to szczególnie ważne, gdy nadzór zaczyna wkraczać w bardziej tradycyjne przestrzenie osobiste”.
Raport podnosi szersze pytania, czy dane mogą być dostępne i wykorzystywane w procesach sądowych lub przez policję i urzędników federalnych, powiedziała Lifewire adwokat ds. ochrony danych Bethany A. Corbin w rozmowie e-mailowej. Wskazała, że może to również wpłynąć na odpowiedzialność.
„Na przykład, jeśli technologia AI mówi pracownikowi, aby nie patrzył w boczne lusterka, a pracownik ma wypadek bezpośrednio w wyniku tej porady, kto jest winny?” Dodano Corbina.
Rosnący nadzór
Nadzór nie kończy się na Amazon. Coraz więcej firm korzysta z technologii do zdalnego obserwowania swoich pracowników – powiedział Lifewire ekspert ds. prywatności Chris Hauk w rozmowie e-mailowej.
Na przykład firma Blackbelt zajmująca się marketingiem sztucznej inteligencji używa systemu śledzenia Przydzielania czasu, który pozwala firmie na autonomiczne monitorowanie i śledzenie aktywności komputerowej swoich pracowników. Usługa Workplace Analytics firmy Microsoft umożliwi pracodawcom obserwowanie czasu pracy pracownika w witrynach internetowych, pisanie wiadomości e-mail i nie tylko w ciągu dnia roboczego.
Walmart pracuje również nad systemem, który nasłuchuje odgłosów szelestów toreb lub sygnałów dźwiękowych ze skanerów kasowych, aby śledzić wskaźniki pracowników i zapewnić prawidłowe i wydajne wykonywanie zadań. Czujniki mogą nawet podsłuchiwać klientów, którzy rozmawiają w kolejce i wykrywać, czy pracownicy prawidłowo witają klientów.
Nadzór w miejscu pracy staje się coraz bardziej powszechny od czasu wybuchu pandemii, ekspert ds. prywatności Pankaj Srivastava powiedział Lifewire w wywiadzie e-mailowym.
„Większość tej technologii jest pozycjonowana jako „poprawa produktywności”, jednak sposób działania niektórych z tych narzędzi sugeruje większą tolerancję pracodawców do monitorowania każdej aktywności ich pracowników” – dodał. „Na przykład monitorowanie, ile czasu pracownicy spędzają na każdym zadaniu, robienie zdalnego zdjęcia, aby upewnić się, że pracownicy są przy biurku, a nawet monitorowanie odwiedzanych witryn internetowych i rejestrowanie uderzeń klawiatury i ruchu myszy przez pracownika”.
Podczas gdy sztuczna inteligencja się poprawia, nadal będą popełniane błędy.
Niektóre oprogramowanie AI pozwala pracodawcom na ciągłe monitorowanie zachowań pracowników w tle i rysowanie wzorców w ich przepływie pracy, powiedział.
„Pracownik może zostać zwolniony na podstawie jego spersonalizowanego raportu dotyczącego wyników, który wskazuje, że wykonanie zadania zajęło mu kilka minut dłużej niż zwykle”, powiedział Srivastava.
„Do widzenia, przerwy w łazience”.
