ВТБ вместе с учеными из МГУ создал программы-контролеры для своих виртуальных помощников. Детекторы следят за тем, чтобы электронные помощники банка общались с клиентами правильно.
Первая программа защищает от грубости и запрещенного контента, блокируя любые непристойные или незаконные запросы клиентов. Вторая программа проверяет правдивость ответов, обнаруживая в ответах ИИ-помощников ложную информацию и помогая специалистам банка ее исправить.
«ИИ-агент не должен поддаваться на провокационные формулировки, отвечать недостоверно или рекомендовать несоответствующие запросу финансовые продукты или услуги», - пояснил важность внедрения систем контроля за ответами ИИ-агентов советник первого заместителя президента-председателя правления ВТБ Сергей Путятинский, выступая на площадке Kazan Digital Week.
Поскольку готовых решений на рынке не было, ВТБ внедряет собственные. В ближайшее время они появятся во всех онлайн-сервисах ВТБ, где работают цифровые помощники.