Kluczowe dania na wynos
- Szeroka gama nowych aplikacji może być w stanie wykryć emocje uczniów.
- Intel i twórca oprogramowania klasowego Class to podobno oprogramowanie, które będzie czuwać nad cyfrowymi twarzami i mową ciała uczniów.
- Niektórzy eksperci obawiają się, że używanie sztucznej inteligencji do monitorowania uczniów może prowadzić do naruszenia prywatności.
Szkoły mogą wkrótce wykorzystać sztuczną inteligencję (AI) do monitorowania stanów emocjonalnych uczniów.
Intel i twórca oprogramowania klasowego Class opracowują oprogramowanie, które będzie czuwać nad cyfrowymi twarzami i mową ciała uczniów. System może podobno wykryć, czy uczniowie są znudzeni, rozkojarzeni lub zdezorientowani, ale niektórzy eksperci obawiają się, że oprogramowanie może prowadzić do naruszenia prywatności.
„Takie produkty do monitorowania oparte na sztucznej inteligencji powinny jasno informować o tym, w jaki sposób są wykorzystywane te dane” – powiedział Lifewire w e-mailu Michael Huth, współzałożyciel firmy Xayn i szef działu obliczeniowego w Imperial College London. wywiad. „Jeśli używa się go do śledzenia zaangażowania w kohorcie uczniów, gdzie zaangażowanie na poziomie indywidualnym nie jest rejestrowane, jest to nieco mniej problematyczne z punktu widzenia prywatności. Jeśli jednak którekolwiek z tych danych miałyby zostać wykorzystane do wpłynięcia na ocenę uczniów, ja widzi wszelkiego rodzaju pojawiające się problemy."
Oglądanie uczniów
Class i Intel nawiązały współpracę, aby zintegrować technologię opartą na sztucznej inteligencji, która działa razem z oprogramowaniem wideokonferencyjnym Zoom, podał Protokół. Oprogramowanie może być używane do monitorowania uczniów, czytamy w raporcie.
„Dzięki naszemu partnerstwu z firmą Intel będziemy mogli wprowadzać do oprogramowania Class nowe, wciągające funkcje, które są oparte na funkcjach popartych badaniami”, zgodnie ze stroną internetową firmy. „Będziemy również współpracować z firmą Intel, aby wykorzystać zasoby i zapewnić nauczycielom i studentom cenne informacje, wspólne studia przypadków, oficjalne księgi, seminaria internetowe i wiele więcej”.
Firma Intel poinformowała Protocol, że oprogramowanie do zajęć lekcyjnych jest na wczesnym etapie i nie ma planów wprowadzenia produktu na rynek.
Partnerstwo z Class to nie jedyna potencjalna współpraca między oprogramowaniem do czytania emocji firmy Intel a innymi producentami. Broszura internetowa firmy Intel reklamuje nową elektroniczną tablicę o nazwie Viewboard skierowaną do szkół. Oprogramowanie firmy Intel „umożliwia myViewboard ocenianie i wyświetlanie stanów emocjonalnych uczniów jako natychmiastową informację zwrotną dla nauczycieli”, zgodnie z broszurą.
Class to jeden z wielu programów służących do śledzenia emocji uczniów za pomocą sztucznej inteligencji. Według strony internetowej firmy, istnieje również 4Little Trees, platforma edukacyjna do wykrywania emocji, która jest „wirtualnym asystentem nauczyciela, który pomoże w wyborze najbardziej odpowiednich dla ciebie pytań lub w razie potrzeby rzuci ci wyzwanie”.
Ashish Fernando, dyrektor generalny firmy iSchoolConnect zajmującej się sztuczną inteligencją, powiedział Lifewire w wywiadzie e-mailowym, że sztuczną inteligencję można wyszkolić, aby oceniać ludzkie zachowanie i cechy bez wpływu subiektywnych uprzedzeń, jakie mają poszczególne osoby.
„AI może ocenić znacznie większą liczbę ludzkich zachowań, w tym łatwe do przeoczenia mikroekspresje, w tempie znacznie szybszym niż człowiek” – powiedział Fernando. „Tam, gdzie opinie mogły zająć godziny, sztuczna inteligencja może teraz dostarczyć to samo w ciągu kilku minut”.
Problemy dotyczące prywatności
Wykorzystywanie sztucznej inteligencji do monitorowania ludzi rośnie. Snapchat ma technologię AI, która ocenia poziom emocjonalny grupy ludzi podczas wydarzenia na żywo. Mad Street Den wykorzystuje komputerową sztuczną inteligencję, aby pomóc sprzedawcom rozpoznawać mimikę i emocje potencjalnych nabywców. BrainQ wykorzystuje sztuczną inteligencję, aby zrozumieć, w jaki sposób pasażerowie wchodzą w interakcję z pojazdami autonomicznymi, z których korzystają. Firmy wykorzystują sztuczną inteligencję do śledzenia zmęczenia kierowców.
„To świetny przykład zastosowania dla bezpieczeństwa na drogach, ale rodzi pytania dotyczące praw do prywatności kierowców w ich osobistych pojazdach” – powiedział Huth. „Czy informacje o zmęczeniu zostaną udostępnione firmie ubezpieczeniowej lub producentowi samochodu? Czy może po prostu ostrzeże kierowcę, aby zjechał na pobocze i odpoczywał? Jest to mniejszy problem w przypadku flot pojazdów komercyjnych, takich jak ciężarówki, furgonetki lub taksówki.”
Jednym z problemów jest to, że informacje AI, takie jak ruch mięśni w celu wywnioskowania stanu emocjonalnego, mogą nie być wiarygodne, powiedział Huth. „Stwarza to dylemat, ponieważ bardziej niezawodna sztuczna inteligencja może wymagać dostępu do jeszcze bardziej wrażliwych danych, takich jak sygnały EEG” – dodał.
W przypadku uczniów sztuczna inteligencja może być przydatna do monitorowania zgodności podczas egzaminów online, gdy osoba nadzorująca nie może być fizycznie obecna. Ale wykorzystanie sztucznej inteligencji do tego jest kontrowersyjne, powiedział Huth, ponieważ system próbuje określić, czy uczeń zamierza oszukiwać, czy też oszukuje, i istnieje realny potencjał fałszywych trafień, które skutkują nieuzasadnionym karaniem uczniów, którzy nie zrobili nic złego.
„Każda sztuczna inteligencja używana do tego celu musiałaby być wystarczająco solidna, aby poradzić sobie z przerwami na toaletę, nerwowymi tikami poszczególnych uczniów (takimi jak nieregularne ruchy oczu) i tak dalej”, powiedział Huth.
