Chatboty wykorzystywane do kontaktów z klientami potrafią już przetwarzać język, ale go nie rozumieją. Taki wirtualny pracownik obsługi klienta ma więc ograniczone możliwości rozmowy. W przeciwieństwie do ludzi nie wie, czym są emocje, tym samym nie wie także, czym jest etyka. Mimo to firmy coraz częściej stawiają na chatboty – wynika z badań dr Aleksandry Przegalińskiej, które mają być pierwszym krokiem w kierunku samoregulacji rynku chatbotów.
Wirtualni asystenci uczą się coraz szybciej. Nie muszą jeść, spać, nie chorują. W kontakcie z klientami potrafią zmieniać zdanie w zależności od tego, z kim rozmawiają. Jednak z powodu braku etyki chatbotów – ustalonego systemu wartości i braku nadzoru nad ich rozwojem – może dochodzić do różnych patologii.
– Zmierzamy w kierunku rozumienia kontekstu przez chatboty. Mają one rozumieć naszą intonację, okoliczności wypowiedzi. Tak, by uniknąć sytuacji podobnej z chatbotem Tay – botem Microsoftu, którego proces uczenia nie był nadzorowany, co w konsekwencji doprowadziło do tego, że chatbot stał się rasistą i antysemitą – mówi dr Aleksandra Przegalińska, badaczka sztucznej inteligencji z Akademii Leona Koźmińskiego, która od maja analizuje interakcje zachodzące pomiędzy człowiekiem a humanoidem.
Pod jej kierunkiem naukowcy z Akademii Leona Koźmińskiego, Uniwersytetu SWPS i amerykańskiego Massachusetts Institute of Technology zajmują się określeniem ram etycznych dla funkcjonowania chatbotów online. Jak zaznaczają badacze, zaufanie jest centralnym punktem udanej interakcji człowiek – chatbot. Dlatego też stworzyli autorską metodologię analizy treści komunikatów powstających w takich interakcjach, która łączy metody neurobiologiczne, eksplorację tekstu i uczenie się maszynowe. Z badań wynika, że boty reagują inaczej w zależności od tego, z kim rozmawiają.
– Chatboty mają ograniczone zdolności komunikacji. Nie są w stanie odpowiadać na skomplikowane pytania ani szeregować twierdzeń według konkretnego klucza. Mogą jedynie odpowiadać na jednozdaniowe stwierdzenia. W badaniu potwierdziliśmy tzw. Uncanny Valley Effect – czyli „efekt dziwności” towarzyszący interakcji człowieka z humanoidami – wyjaśnia dr Aleksandra Przegalińska, kierownik studiów z zastosowania sztucznej inteligencji w biznesie.
Alternatywne boty na miarę nowoczesnej obsługi klienta
Wnioski z prowadzonych badań mają pomóc m.in. w tworzeniu botów alternatywnych dla tych, które aktualnie budowane są na rynku. Systemy obsługi klientów zmieniły się nie do poznania, ponieważ coraz więcej firm odchodzi od tradycyjnej i kosztownej obsługi na rzecz tej nowoczesnej, opartej właśnie na chatbotach. Jak przewiduje międzynarodowa firma analityczna Global Market Insights, światowy rynek chatbotów w 2024 roku ma być wart 1,3 biliona dolarów.
Projekt badawczy prowadzony jest od maja 2019 roku ze środków Narodowego Centrum Nauki. W skład zespołu badawczego wchodzą: prof. Peter Gloor z MIT, dr Anna Stróż z UW, dr. hab. Grzegorz Mazurek oraz dr Leon Ciechanowski z Akademii Leona Koźmińskiego.
Źródło: Akademia Leona Koźmińskiego
