Клиентам финуслуг объяснят, как работает искусственный интеллект

Управление по финансовому регулированию и надзору Великобритании (FCA) и Институт Алана Тьюринга приступили к совместной работе, чтобы сделать искусственный интеллект «более понятным» для пользователей финуслуг.

Проект нацелен на решение одной из самых больших проблем в клиентских приложениях с использованием искусственного интеллекта — как объяснить потребителю, почему ИИ отказывает ему в определенном товаре или услуге.

Представляя программу, исполнительный директор FCA по стратегии и конкуренции Кристофер Вулард, назвал в качестве примера случай, когда ИИ отклонил заявку на получение ипотеки или полиса страхования жизни.

Алгоритмы принятия подобных решений должно быть объяснены. Осталось решить — как именно это будет происходить? На каком уровне придется это объяснять — на уровне владеющего необходимыми знаниями эксперту, генеральному директору компании или обычному потребителю? Кристофер Вулард
Financial Conduct Authority

По словам Вуларда, в приложения с ИИ можно «встроить объяснение», используя более понятный алгоритм, однако это может ухудшить работу технологии по прогнозам.

Сообщается, что FCA будет решать этот и другие вопросы, связанные с машинным обучением, вместе с Институтом Алана Тьюринга. Исследование завершится публикацией совместного документа по этим вопросам и семинара, запланированного на начало 2020 года.

Ранее мы писали о том, что на новой пластиковой банкноте номиналом 50 фунтов появится портрет знаменитого математика Алана Тьюринга. Ученый получил широкую известность благодаря тому, что смог разгадать код немецкой шифровальной машины Энигма. Именно поэтому Алана Тьюринга считают основателем компьютерных наук и искусственного интеллекта.

ЧИТАЙТЕ ТАКЖЕ — Технология 5G: к чему готовиться финансовым учреждениям

Источник