Предвзятость искусственного интеллекта в банках или как не отказывать хорошим заемщикам
До сих пор многие банки принимают свои решения с применением так называемых «стоп-правил» или «хард-чеков». Примерами таких стоп-факторов являются слишком молодой или наоборот слишком пожилой возраст заявителя, факт прописки в неблагополучном по мнению банка регионе, наличие просроченной задолженности в прошлом, отсутствие кредитной истории, наличие микрозаймов и т.д.
Эти правила много лет помогали банкам отсекать от кредитования большие сегменты клиентов с высоким уровнем потенциальной просрочки. Часто эти правила работали, не меняясь, много лет. Но в 2020 году в период пандемии, когда на фоне резкого сокращения уровня одобрения, вопрос привлечения новых клиентов стал особо остро, некоторые финансовые организации осознали, что такие стоп-правила сильно неэффективны, поскольку отрезают от кредитования большое число добросовестных клиентов.
Для решения этой проблемы рынку потребовались новые походы и новые решения для процесса рассмотрения кредитных заявок. Одним из таких решения стала платформа oneFactor SmartMachine для конфиденциального совместного машинного обучения на глобальном клиентском графе и быстрого создания максимально точных сервисов. Эта платформа уже позволила некоторым финансовым организациям верифицировать свои решения: выявить ошибки в работе стоп-факторов и модифицировать их. Платформу уже протестировали и начали использовать банки-лидеры розничного кредитования. По итогам тестов, рекомендации на основе платформы позволили признать около 20% отказов, основанных на стоп-факторах ошибочными.
Эксперты рынка отмечали снижение объемов выдач кредитов населению еще в конце 2019 года — это следствие регуляторного давления на банки в части ограничения ПДН (показатель долговой нагрузки). Требования регулятора были призваны снизить уровень закредитованности населения. Как результат, россияне стали гораздо чаще получать отказы в выдаче кредитов.
Ситуация усложнилась в период пандемии, когда некоторые добросовестные клиенты не смогли выплачивать кредиты. Вместо пересмотра текущего процесса рассмотрения заявок и выявления сегментов, на которых банковский конвеер принимает ошибочное решение, чтобы компенсировать рост отказов из-за потери источника доходов значимой долей населения, пострадавшего в период короновирусных ограничений, банки сформировали дополнительные стоп-правила, блокирующие целые сегменты, наиболее пострадавшие от последствий пандемии, например, сотрудников розничной торговли или сферы услуг. В результате на рынке к середине 2020 года уровень одобрения кредитов для новых клиентов упал, по оценке компании oneFactor, в несколько раз — с 30–40% до 5–10%.
Для помощи банкам в решении проблемы сокращения уровня одобрения oneFactor на основе собственной платформы SmartMachine разработал сервис, который автоматически выявляет ошибки в решениях банков еще на этапе рассмотрения заявки. Процесс совместного конфиденциального машинного обучения на основе данных разных индустрий и глобального клиентского графа позволяет находить и корректировать ошибки традиционного подхода. Особенностью платформы является постоянное дообучение на основании банковских данных (фактов одобрений и отказов, просрочек по выданному кредиту) и исключение предвзятости банковского искусственного интеллекта, который склонен к формированию высокоохватных стоп-правил, за счет использования внешних поведенческих данных, в которых отсутствуют такие факторы дискриминации как пол, возраст, место работы и проживания, факты использования микрозаймов и пр. Запатентованная технология oneFactor, реализующая конфиденциальное совместное машинное обучение на глобальном клиентском графе, позволяет обучать модели и алгоритмы для принятия решений на кросс-индустриальных данных в защищенной области памяти устройств в периметре владельцев данных. В итоге обеспечивается конфиденциальность и сохранность данных.
Внедрение нового подхода к верификации банковских решений на платформе oneFactor позволяет банку увеличить долю положительных решений на 24% без пересмотра приемлемого для банка уровня риска. Например, в сегменте клиентов без кредитной истории, платформа позволяет выделить 22% благонадежных клиентов среди получающих сейчас отказ. В сегменте клиентов, имевших ранее просрочку по другим кредитам, 26% заемщиков можно выдать кредит с минимальным риском. Сейчас же большинство банков таким клиентам отказывают.
«Проблема предвзятости искусственного интеллекта, выраженная в частности, в отказе в кредитовании отдельным сегментам населения на основании атрибутов, которые даны человеку от рождения и на которые человек не может влиять, такие как пол, возраст, место рождения, национальность и прочие, мало изучена в нашей стране. В Европе, например, для решения этой проблемы существуют отдельные нормативные акты. Мы же своим опытом показываем, что компании, которые исключают из своих систем искусственного интеллекта элементы предвзятости, получают конкурентное преимущество, и получают экстра прибыль. В итоге остальные участники рынка вынуждены к ним подтягиваться. В итоге системы искусственного интеллекта в нашей стране избавляются от предвзятости и вся система движется к балансу без каких-либо законодательных ограничений», — комментирует Генеральный директор и сооснователь oneFactor, руководитель Технологического комитета Ассоциации больших данных в России Роман Постников.
О платформе
Платформа совместного конфиденциального машинного обучения на глобальном клиентском графе SmartMachine запущена в промышленную эксплуатацию в конце 2020 года. С марта 2021 года технология oneFactor позволяет не только исполнять алгоритмы машинного обучения в анклаве, но также их тренировки внутри анклава Intel SGX. Теперь исполняемый код — алгоритм машинного обучения, генерируется непосредственного в анклаве с помощью инновационных методов. Технология была запатентована компанией oneFactor на территории Российской Федерации в мае 2019 года. На данный момент к платформе уже подключен ряд крупнейших по объему розничного кредитования российских банков.
Использование технологий secure multi-party computation и Intel SGX позволяет решению oneFactor обрабатывать полностью зашифрованные данные в апаратно-защищенной среде. Технология предоставляет возможность конфиденциально объединять данные разных компаний и индустрий в едином вычислительном облаке, а затем использовать их в рекомендательных сервисах на базе искусственного интеллекта. Особенностью платформы SmartMachine является высокий уровень защиты исходных данных от компрометации на аппаратном уровне, поскольку их «видит» только алгоритм машинного обучения. К данным нет доступа даже у администраторов системы или поставщика облачных сервисов, что подтверждено независимым аудитом с участием компаний, подключивших свои данные к платформе. Изоляция данных в анклаве SGX обеспечивает дополнительную защиту от несанкционированного внешнего или внутреннего доступа. oneFactor — первая компания, которая реализовала коммерческое применение технологии secure multi-party computation для тренировки алгоритмов машинного обучения в решении для финансового сектора в России, и запатентовала его еще в 2019 году.
О oneFactor
oneFactor — первая российская компания, которая включена в международное исследование Gartner “Cool Vendor List” для операторов связи. За всю историю исследований Gartner в “Cool Vendor List” вошли только пять российских компаний.
Сегодня 9 из 10 банков РФ используют сервисы на базе платформы oneFactor. На конец 2020 года более 85% всех решений по выдаче кредитов российские банки принимали с помощью сервиса SmartMachine.