Банки несут ответственность за решения ИИ

Ташкент, Узбекистан (UzDaily.uz) — Участники сессии «Can We Trust AI Without Trusting What Sits Beneath It?» на форуме Silk Road Finance and Technology Forum в Ташкенте заявили, что ответственность за решения искусственного интеллекта при выдаче кредитов остаётся на банке-кредиторе, даже если часть технологической инфраструктуры передана внешним поставщикам.

Сессия прошла в Ташкенте 25 августа под модерацией руководителя азиатского направления и со-руководителя форумов Global Finance & Technology Network Джеймса Боя.

Дискуссию построили вокруг иллюстративного примера о предпринимательнице из Самарканда по имени Азиза, чью заявку на кредит отклонила система на основе ИИ. По условиям примера, банк проверяет личность заявителя в цифровом формате и использует для оценки заявки данные из нескольких источников, включая модель внешнего поставщика и облачную инфраструктуру за пределами страны.

После отказа банк не может дать чёткое объяснение и установить, на каком этапе — в данных, в идентификации личности, в модели или в другой системе — возникла проблема.

Участникам панели предложили назвать элемент технологической цепочки, требующий первоочередного внимания. Технический директор компании National Intellectual Solutions (Gorgona) Александр Симоненко назвал данные, отметив, что это единственный уровень, который невозможно «импортировать» извне, и что ошибки в данных наследуются всеми последующими уровнями системы.

Старший эксперт по финтеху Азиатского банка развития Арвинд Санкаран указал на модели ИИ и их объяснимость, отметив, что состояние данных в Узбекистане уже находится в приемлемом состоянии.

Заместитель руководителя Главного информационного центра при Центральном банке Узбекистана Шеруан Башар назвал главной проблемой отсутствие контроля над процессом принятия решений. Генеральный директор UzCard Давит Меликидзе назвал равнозначными данные и модели, уточнив, что данные должны оставаться на локальном уровне, а модели — проходить локальную валидацию независимо от того, где они разработаны.

Генеральный директор и основатель компании Surfin Meta Digital Technology Янань У также назвал модель ключевым элементом, отметив, что современные модели строятся на фундаментальных моделях с триллионами параметров и поэтому должны быть прозрачными, в идеале — с открытым исходным кодом.

Меликидзе описал пять элементов, на которые UzCard ориентируется при внедрении решений на основе ИИ: понимание того, как работает модель, возможность её аудита, возможность внести изменения, возможность полностью поменять решение и возможность восстановить процесс в случае сбоя.

Симоненко добавил, что при использовании автономных, или агентных, систем ИИ необходимы защитные механизмы, которые не позволяют системе действовать постфактум, а вместо этого прогнозируют или блокируют потенциально проблемное действие либо передают его на одобрение человеку. По его словам, для управления такими системами важны три элемента: контроль над идентификацией пользователя и данными, которые невозможно перенести за пределы юрисдикции; полное протоколирование решений модели; и возможность переключения между поставщиками моделей или платёжными системами.

У рассказал, что его компания предоставляет финтех-решения и сервисы финансовой инклюзии на основе ИИ для 100 миллионов клиентов в 13 странах, включая Узбекистан. По его словам, ключевая причина отказов в кредитах — неспособность корректно оценить риск заёмщика без кредитной истории, и именно поэтому компания использует альтернативные данные вместо традиционной кредитной истории. Он отметил, что доступ к оценке кредитоспособности должен рассматриваться как право любого человека, и привёл в пример собственный сервис, который формирует социальный кредитный рейтинг за 30 секунд и рассчитывает оценку кредитоспособности в течение минуты.

Меликидзе разграничил ответственность по уровням: за защиту данных должен отвечать регулятор, а за отношения с клиентом — конкретное финансовое учреждение, выдавшее кредит.

Санкаран отметил, что процесс выдачи бизнес-кредита включает уровень данных, уровень андеррайтинга, уровень принятия решения в реальном времени и уровень последующего мониторинга и взыскания задолженности, а в этом процессе задействовано около сорока различных приложений, в той или иной форме использующих ИИ.

Башар заявил, что необходимо избегать непрозрачных систем принятия решений, поскольку в примере с отклонённой заявкой банк фактически выступает «чёрным ящиком», не способным объяснить клиенту причину отказа. По его словам, регулятор не может занимать позицию невмешательства в подобной ситуации, хотя современные модели ИИ остаются вероятностными по своей природе и в этом смысле полностью непрозрачными даже при известных входных и выходных данных. Он уточнил, что не рассчитывает на то, что кредитные решения когда-либо будут приниматься непосредственно крупными языковыми моделями, и что речь идёт о более традиционных моделях машинного обучения, которые поддаются объяснению.

Санкаран добавил, что модели ИИ обучаются надёжно при наличии большого объёма исторических данных о заёмщиках, однако сложности возникают в пограничных случаях — с заёмщиками без кредитной истории.

По его словам, в таких ситуациях участники рынка сочетают модели ИИ с формализованными правилами и обязательным участием человека в принятии решения.

У, в свою очередь, назвал ключевым фактором доверия к данным их принадлежность самому потребителю, отметив, что именно клиент должен решать, какими данными делиться и в обмен на какие финансовые услуги.