Chatbot AI do obsługi klienta banku

Wyzwanie

Bank spółdzielczy obsługiwał ponad 120 000 klientów indywidualnych i firmowych, przy czym call center (15 konsultantów) odpowiadał na ponad 800 zapytań dziennie. 60% zapytań dotyczyło standardowych procedur: salda konta, blokady karty, warunki kredytu, godziny otwarcia oddziałów. Czas oczekiwania na połączenie sięgał 8 minut w godzinach szczytu.

Bank potrzebował rozwiązania AI, które odpowie na standardowe pytania 24/7, zintegruje się z systemem core-bankingowym, a jednocześnie spełni wymagania KNF dotyczące ochrony danych klientów.

Rozwiązanie

Wdrożyliśmy chatbota AI opartego na architekturze RAG (Retrieval-Augmented Generation), który łączy wiedzę z dokumentów bankowych z możliwościami modelu LLM:

1. Baza wiedzy RAG — zindeksowaliśmy 2 400 dokumentów (regulaminy, tabele opłat, procedury) w Azure AI Search z embeddingami text-embedding-ada-002.
2. Model LLM — Azure OpenAI GPT-4 Turbo z custom system prompt zapewniającym odpowiedzi w kontekście bankowym, z cytowaniem źródeł.
3. Integracja z core-banking — chatbot odpytuje API systemu bankowego o saldo, historię transakcji i status wniosków (za autoryzacją klienta).
4. Sesje i pamięć — Redis jako session store z 30-minutowym TTL, przechowujący kontekst rozmowy.

Bezpieczeństwo danych

Cały system działa w prywatnym VNet Azure bez dostępu z internetu publicznego. Dane klientów nie opuszczają tenant'u bankowego. Model GPT-4 działa w trybie „data not used for training". Wdrożyliśmy PII redaction (automatyczne maskowanie numerów PESEL, kont, kart) przed wysłaniem zapytania do modelu.

Rezultaty