Kluczowe dania na wynos
- Firmy coraz częściej wykorzystują sztuczną inteligencję, która wyjaśnia, w jaki sposób uzyskuje wyniki.
- LinkedIn ostatnio zwiększył przychody z subskrypcji po użyciu sztucznej inteligencji, która przewidywała ryzyko anulowania rezerwacji i opisywała, w jaki sposób doszedł do swoich wniosków.
- Federalna Komisja Handlu stwierdziła, że sztuczna inteligencja, której nie można wyjaśnić, może zostać zbadana.
Jednym z najgorętszych nowych trendów w oprogramowaniu może być sztuczna inteligencja (AI), która wyjaśnia, w jaki sposób osiąga swoje wyniki.
Wytłumaczalna sztuczna inteligencja się opłaca, ponieważ firmy programistyczne starają się uczynić sztuczną inteligencję bardziej zrozumiałą. LinkedIn niedawno zwiększył swoje przychody z subskrypcji po użyciu sztucznej inteligencji, która przewidywała ryzyko rezygnacji klientów i opisywała, w jaki sposób doszedł do swoich wniosków.
„Wyjaśnialna sztuczna inteligencja polega na tym, aby móc zaufać wynikom, a także zrozumieć, w jaki sposób maszyna się tam dostała”, powiedział Lifewire w rozmowie e-mail Travis Nixon, dyrektor generalny SynerAI i Chief Data Science, Financial Services w Microsoft..
„„Jak?” to pytanie zadawane wielu systemom sztucznej inteligencji, zwłaszcza gdy podejmowane są decyzje lub powstają wyniki, które nie są idealne”- dodał Nixon. „Od niesprawiedliwego traktowania różnych ras po mylenie łysej głowy z piłką nożną, musimy wiedzieć, dlaczego systemy sztucznej inteligencji dają wyniki.
Poznawanie AI
AI okazała się trafna i tworzy wiele rodzajów przewidywań. Ale sztuczna inteligencja często potrafi wyjaśnić, w jaki sposób doszła do swoich wniosków.
A regulatorzy zwracają uwagę na problem wyjaśniania AI. Federalna Komisja Handlu powiedziała, że sztuczna inteligencja, której nie można wyjaśnić, może zostać zbadana. UE rozważa uchwalenie ustawy o sztucznej inteligencji, która zawiera wymagania, aby użytkownicy byli w stanie interpretować prognozy sztucznej inteligencji.
Linkedin należy do firm, które uważają, że wytłumaczalna sztuczna inteligencja może pomóc zwiększyć zyski. Wcześniej sprzedawcy LinkedIn polegali na swojej wiedzy i spędzali mnóstwo czasu na przeszukiwaniu danych offline, aby określić, które konta prawdopodobnie będą kontynuować działalność i jakimi produktami mogą być zainteresowani podczas następnego odnowienia umowy. Aby rozwiązać ten problem, LinkedIn uruchomił program o nazwie CrystalCandle, który wykrywa trendy i pomaga sprzedawcom.
W innym przykładzie Nixon powiedział, że podczas tworzenia modelu ustalania limitów dla sił sprzedaży firmy, jego firma była w stanie włączyć możliwą do wyjaśnienia sztuczną inteligencję, aby określić, jakie cechy wskazują na udane zatrudnienie nowego pracownika.
„Dzięki tym wynikom kierownictwo tej firmy było w stanie rozpoznać, którzy sprzedawcy powinni przejść na „szybką ścieżkę”, a którzy potrzebowali coachingu, a wszystko to przed pojawieniem się jakichkolwiek poważnych problemów” – dodał.
Wiele zastosowań dla wytłumaczalnej sztucznej inteligencji
Wyjaśnialna sztuczna inteligencja jest obecnie wykorzystywana jako kontrola jelit dla większości naukowców zajmujących się danymi, powiedział Nixon. Naukowcy przeprowadzają swój model za pomocą prostych metod, upewniając się, że nic nie jest całkowicie niesprawne, a następnie wysyłają model.
„Jest to częściowo spowodowane tym, że wiele organizacji zajmujących się analizą danych zoptymalizowało swoje systemy pod kątem „czasu nad wartością” jako wskaźnika KPI, co prowadzi do pośpiesznych procesów i niekompletnych modeli” – dodał Nixon.
Obawiam się, że skutki nieodpowiedzialnych modeli mogą poważnie zmienić branżę AI.
Ludzie często nie są przekonani do wyników, których sztuczna inteligencja nie potrafi wyjaśnić. Raj Gupta, Chief Engineering Officer w Cogito, powiedział w e-mailu, że jego firma przeprowadziła ankiety wśród klientów i stwierdziła, że prawie połowa konsumentów (43%) miałaby bardziej pozytywny odbiór firmy i sztucznej inteligencji, gdyby firmy wyraźniej informowały o ich wykorzystaniu technologii.
I to nie tylko dane finansowe są pomocne dzięki sztucznej inteligencji. Jednym z obszarów, który czerpie korzyści z nowego podejścia, są dane obrazu, w których łatwo jest wskazać, które części obrazu są uważane przez algorytm za niezbędne, a człowiek może łatwo dowiedzieć się, czy te informacje mają sens, Samantha Kleinberg, profesor nadzwyczajny w firmie Stevens Institute of Technology i ekspert w dziedzinie sztucznej inteligencji, którą można wyjaśnić, powiedział Lifewire za pośrednictwem poczty elektronicznej.
„Dużo trudniej jest to zrobić za pomocą EKG lub ciągłego monitorowania poziomu glukozy” – dodał Kleinberg.
Nixon przewidział, że możliwa do wyjaśnienia sztuczna inteligencja będzie podstawą każdego systemu sztucznej inteligencji w przyszłości. A bez wytłumaczalnej sztucznej inteligencji wyniki mogą być tragiczne, powiedział.
"Mam nadzieję, że zrobimy postępy na tym froncie wystarczająco daleko, aby w nadchodzących latach uznać za pewnik wytłumaczalną sztuczną inteligencję i że spoglądamy wstecz na tamte czasy dzisiaj z zaskoczeniem, że ktokolwiek byłby na tyle szalony, aby wdrożyć modele, których nie rozumiał, " on dodał.„Jeżeli nie spotkamy się z przyszłością w ten sposób, obawiam się, że cios nieodpowiedzialnych modeli może poważnie zmienić branżę AI”.
