Kluczowe dania na wynos
- Algorytmy sztucznej inteligencji i uczenia maszynowego obserwują ludzkie zachowanie i mogą nauczyć się nim manipulować, twierdzą eksperci.
- Naukowcy stworzyli ostatnio sposób na znajdowanie i wykorzystywanie luk w sposobach dokonywania wyborów za pomocą sztucznej inteligencji.
- Najbardziej wyrafinowanym algorytmem mediów społecznościowych jest obecnie TikTok, powiedział jeden z obserwatorów.
Algorytmy sztucznej inteligencji (AI) i uczenia maszynowego coraz częściej uczą się, jak wpływać na zachowanie użytkowników, twierdzą eksperci.
Naukowcy z australijskiej krajowej agencji naukowej niedawno opracowali sposób znajdowania i wykorzystywania luk w sposobach dokonywania wyborów za pomocą sztucznej inteligencji. Najnowsze badania to tylko jeden z wielu systemów opartych na sztucznej inteligencji, zaprojektowanych do manipulowania procesem podejmowania decyzji przez ludzi.
„Nie ma końca na wiele sposobów, w jakie sztuczna inteligencja już wpływa na zachowanie”, Kentaro Toyama, profesor na University of Michigan School of Information i autor Geek Heresy: Rescuing Social Change from the Cult of Technology, powiedział w e-mailowym wywiadzie.
"W rzeczywistości, jeśli kiedykolwiek przeprowadzałeś wyszukiwanie w Google i śledziłeś link, natrafiłeś na system sztucznej inteligencji, który odgadł Twoje zainteresowania i zwrócił wyniki, które uważał za najbardziej odpowiednie dla Ciebie."
AI kontra ludzie
W australijskim badaniu opublikowanym w niedawno opublikowanym artykule, ludzie grali w gry przeciwko komputerowi w różnych eksperymentach. W pierwszym eksperymencie uczestnicy klikali pola w kolorze czerwonym lub niebieskim, aby wygrać pieniądze.
Sztuczna inteligencja odnosiła sukcesy w 70% przypadków, ucząc się wzorców wyboru uczestnika i prowadząc go w kierunku konkretnego wyboru.
W innym eksperymencie uczestnicy obserwowali ekran i naciskali przycisk, gdy pokazywano im konkretny symbol, lub nie naciskali go, gdy oferowano im inny. Sztuczna inteligencja nauczyła się przestawiać symbole, więc uczestnicy popełniali więcej błędów.
Wynik eksperymentów, jak doszli naukowcy, był taki, że sztuczna inteligencja uczyła się z odpowiedzi uczestników. Maszyna następnie zidentyfikowała i ukierunkowała luki w procesie podejmowania decyzji przez ludzi. W efekcie sztuczna inteligencja może manipulować uczestnikami, aby podejmowali określone działania.
Fakt, że sztuczna inteligencja lub uczenie maszynowe mogą manipulować ludźmi, nie powinien być zaskoczeniem, twierdzą obserwatorzy.
„Sztuczna inteligencja wpływa na nasze zachowanie każdego dnia”, powiedziała Tamara Schwartz, adiunkt ds. cyberbezpieczeństwa i administracji biznesowej w York College of Pennsylvania w wywiadzie e-mailowym.
"Cały czas słyszymy o algorytmach w aplikacjach społecznościowych, takich jak Facebook czy Twitter. Algorytmy te kierują naszą uwagę na powiązane treści i tworzą efekt 'komory echa', który z kolei wpływa na nasze zachowanie."
TikTok ogląda
Najbardziej wyrafinowanym algorytmem mediów społecznościowych jest obecnie TikTok, powiedział Schwartz. Aplikacja analizuje to, co Cię interesuje, jak długo coś oglądasz i jak szybko coś pomijasz, a następnie udoskonala swoją ofertę, abyś mógł oglądać.
„TikTok jest znacznie bardziej uzależniający niż inne platformy ze względu na ten algorytm AI, który rozumie, co lubisz, jak się uczysz i jak wybierasz informacje” – dodała. „Wiemy o tym, ponieważ średni czas spędzany przez użytkowników na TikTok wynosi 52 minuty”.
Manipulacja ludzkim zachowaniem przez sztuczną inteligencję może mieć pozytywne zastosowania, przekonywał w e-mailowym wywiadzie Chris Nicholson, dyrektor generalny firmy Pathmind zajmującej się sztuczną inteligencją. Na przykład agencje zdrowia publicznego mogą wykorzystać sztuczną inteligencję, aby zachęcić ludzi do podejmowania lepszych decyzji.
„Jednak media społecznościowe, twórcy gier wideo, reklamodawcy i reżimy autorytarne szukają sposobów na zachęcenie ludzi do podejmowania decyzji, które nie leżą w ich najlepszym interesie, a to da im nowe narzędzia do tego.” dodał.
Kwestie etyczne związane ze sztuczną inteligencją wpływającą na zachowanie są często kwestią stopnia, powiedział Toyama. AI pozwala na skoncentrowaną reklamę, w której można wykorzystać indywidualne preferencje i słabości.
„Możliwe jest na przykład, że system sztucznej inteligencji identyfikuje osoby, które próbują rzucić palenie i zasypuje ich kuszącymi reklamami papierosów” – dodał.
Nie wszyscy zgadzają się, że manipulowanie ludzkim zachowaniem przez sztuczną inteligencję jest problematyczne. Zarówno psychologia klasyczna, jak i sztuczna inteligencja obserwują dane, wskazał w wywiadzie e-mailowym Jason J. Corso, dyrektor Stevens Institute for Artificial Intelligence.
„Ludzie naukowcy są prawdopodobnie lepsi w uogólnianiu obserwacji i destylacji teorii ludzkiego zachowania, które mogą mieć szersze zastosowanie, podczas gdy modele AI byłyby bardziej podatne na identyfikację niuansów specyficznych dla problemu” – powiedział Corso.
"Z etycznego punktu widzenia nie widzę między nimi różnicy."
