Kluczowe dania na wynos
- Coraz więcej programów może zrozumieć Twoją mowę.
- Nowa technologia generuje niestandardowy szum dźwiękowy w tle, gdy mówisz, aby zmylić oprogramowanie, które może nasłuchiwać.
-
Nowa technika zapewnia wydajność w czasie rzeczywistym dzięki prognozowaniu ataku na przyszłość sygnału lub słowa.
Wiele programów może zrozumieć Twoją mowę podczas rozmów telefonicznych lub wideo, a eksperci twierdzą, że mogą one stanowić zagrożenie dla prywatności.
Nowa technologia opracowana przez naukowców z Columbia University, zwana Neural Voice Camouflage, może zapewnić obronę. Generuje niestandardowy szum dźwiękowy w tle podczas mówienia, myląc sztuczną inteligencję (AI), która nasłuchuje i transkrybuje głosy.
„Obecność transkrypcji sztucznej inteligencji rodzi problemy z zaufaniem”, Michael Huth, współzałożyciel Xayn, wyszukiwarki chroniącej prywatność, i szef Departamentu Informatyki w Imperial College London, który nie był zaangażowany w badania, powiedział Lifewire w wywiadzie e-mail. „Uczestnicy spotkania mogą być bardziej ostrożni w kwestii tego, które punkty podnoszą i jak transkrybowana jest ich mowa. Może to być dobre, ponieważ może poprawić zachowanie oparte na szacunku, ale może też być złe, ponieważ rozmowa może być mniej otwarta z powodu zastrzeżenia dotyczące zastosowanej technologii."
Słuchanie i nauka
Naukowcy z Columbii pracowali nad zaprojektowaniem algorytmu, który mógłby łamać sieci neuronowe w czasie rzeczywistym. Nowe podejście wykorzystuje „ataki predykcyjne” - sygnał, który może zakłócić działanie dowolnego słowa, do którego transkrypcji są wytrenowane modele automatycznego rozpoznawania mowy. Ponadto, gdy dźwięki ataku są odtwarzane bezprzewodowo, muszą być wystarczająco głośne, aby zakłócić każdy nieuczciwy „nasłuchujący” mikrofon, który może znajdować się daleko.
„Kluczowym wyzwaniem technicznym, aby to osiągnąć, było sprawienie, aby wszystko działało wystarczająco szybko”, powiedział Carl Vondrick, profesor informatyki na Columbii i jeden z autorów badania opisującego nowe podejście. wydanie. „Nasz algorytm, który w 80% przypadków blokuje fałszywemu mikrofonowi poprawne słyszenie Twoich słów, jest najszybszy i najdokładniejszy na naszym stanowisku testowym”.
Nowa technika osiąga wydajność w czasie rzeczywistym, przewidując atak na przyszłość sygnału lub słowa. Zespół zoptymalizował atak, dzięki czemu jego głośność jest zbliżona do normalnego hałasu w tle, umożliwiając ludziom w pomieszczeniu naturalną konwersację bez skutecznego monitorowania przez system automatycznego rozpoznawania mowy.
Uczestnicy spotkania mogą bardziej uważać na to, jakie punkty podnoszą i jak transkrybowana jest ich mowa.
Naukowcy stwierdzili, że ich technika działa nawet wtedy, gdy nie wiesz nic o fałszywym mikrofonie, na przykład jego lokalizacji, czy nawet uruchomionego na nim oprogramowania komputerowego. Kamufluje głos osoby w powietrzu, ukrywając go przed tymi systemami podsłuchowymi i bez przeszkadzania w rozmowie między osobami w pomieszczeniu.
„Jak dotąd nasza metoda działa w przypadku większości słownictwa języka angielskiego i planujemy zastosować algorytm w większej liczbie języków, a także w końcu sprawić, że dźwięk szeptu będzie całkowicie nieodczuwalny”, Mia Chiquier, główna autorka badania i doktorant w laboratorium Vondricka, powiedział w komunikacie prasowym.
Prywatność rozmów
Jakby tego wszystkiego było mało, reklamy mogą być skierowane do Ciebie również na podstawie dźwięku zebranego ze smartfona lub inteligentnych urządzeń domowych.
"Dzięki urządzeniom takim jak [Amazo Echo] i ich odpowiednikom, te urządzenia nie tylko są zawsze w Twoim domu, nieustannie słuchają wszystkiego, co mówisz lub robisz, ale dzięki wieloletniemu zbieraniu danych od użytkowników udoskonalił przetwarzanie języka naturalnego (przekształcanie słowa mówionego w tekst/dane użytkowe dla urządzeń za pomocą kombinacji mikrofonów, oprogramowania i sztucznej inteligencji)” – powiedział w e-mailu Erik Haig, współpracownik Harbour Research, firmy zajmującej się doradztwem strategicznym i rozwojem przedsięwzięć.
Transkrypcje mowy konwersacyjnej AI są teraz standardową częścią standardowego oprogramowania komercyjnego, powiedział Huth. Na przykład Microsoft Teams ma opcję nagrywania spotkań z wbudowanymi transkrypcjami AI, które mogą być widoczne dla wszystkich uczestników w czasie rzeczywistym. Pełny zapis może służyć jako zapis spotkania. Zazwyczaj takie transkrypcje umożliwiają sporządzanie protokołów (tzw. sporządzanie notatek), w przypadku których protokół zostanie zatwierdzony na następnym spotkaniu.
"Ludzie mogą obawiać się szpiegowania, gdy włączona jest transkrypcja AI", dodał Huth."Wydaje się to bardzo podobne do obaw związanych z nagrywaniem rozmowy bez zgody lub potajemnie."
Ale nie wszyscy zgadzają się, że inteligentne urządzenia są zagrożeniem. Większość ludzi nie musi się martwić programami podsłuchującymi twoje rozmowy, powiedział w rozmowie z Lifewire Brad Hong, lider ds. sukcesu klientów w firmie zajmującej się cyberbezpieczeństwem Horizon3. Powiedział, że teraz największym problemem nie jest to, kto Cię nagrywa, ale raczej sposób, w jaki przechowują dane.
„Wszystkie historie, które można usłyszeć o aktywacji mikrofonu na komputerze lub urządzeniu mobilnym, podsłuchiwaniu Alexy lub Google Home, a nawet inwigilacji rządowej, to prawda, że wszystko to powoduje u laika wrzód” – dodał Hong.. "Ale ogólnie rzecz biorąc, ludzie rzadko znajdują się w sytuacji, która faktycznie wymaga zakamuflowania ich głosów."
