Sztuczna inteligencja odpowiada w bankach za ocenę zdolności kredytowej, wykrywanie oszustw i obsługę klienta. Zdaniem ekspertów SAS jej skala oznacza, że pojedynczy błąd modelu może przełożyć się na setki wadliwych decyzji, dlatego zarządzanie AI wymaga osobnych zasad.
Firma SAS, dostawca oprogramowania analitycznego, zwraca uwagę na rosnące ryzyko związane z wykorzystaniem sztucznej inteligencji w bankowości. W ocenie firmy wadliwy model może niesłusznie odmówić kredytu, przeoczyć próbę wyłudzenia albo doprowadzić do naruszenia wymogów regulacyjnych, a przy skali obsługującej tysiące klientów dziennie błąd szybko się mnoży.
Łukasz Strzelec, Head of Financial Services w SAS Polska, wskazał, że banki coraz częściej traktują zarządzanie sztuczną inteligencją z taką samą powagą jak zarządzanie ryzykiem kredytowym czy kapitałowym.
SAS wymienia pięć zasad odpowiedzialnego korzystania z AI: pełny rejestr wykorzystywanych modeli, nadzór nad modelem przez cały cykl jego życia, przejrzystość i wyjaśnialność decyzji, stałe monitorowanie pod kątem tzw. driftu, czyli spadku skuteczności w czasie, oraz pełną audytowalność, pozwalającą odtworzyć każdą decyzję od danych wejściowych po osobę zatwierdzającą.
Kontekstem jest zaostrzające się otoczenie regulacyjne. Europejski AI Act zalicza wiele zastosowań AI w bankowości do kategorii wysokiego ryzyka, co oznacza dodatkowe wymogi dotyczące wyjaśnialności modeli, nadzoru człowieka i dokumentowania decyzji. Zdaniem SAS odpowiednie zarządzanie AI przestaje być przewagą konkurencyjną, a staje się warunkiem bezpiecznego rozwoju — również pod kątem wdrażania generatywnej i agentowej sztucznej inteligencji.