Цифровая амнезия: почему ИИ-стратегия тотального исключения человека в банках может завести в тупик?
<img src="https://habrastorage.org/getpro/habr/upload_files/4d9/71c/587/4d971c587e94a327fbb0ba27f27853e7.png" /><p>Мое общение в последнее время с российскими банками побудило меня разобраться, как сейчас принимаются решения в отношении обычных вкладчиков. Понятно, что все банки используют систему ИИ в большей или меньшей мере. Алгоритм принятия решений у всех банков индивидуальный. Это обусловлено индивидуальной политикой банка в отношении систем ИИ, построенных в каждом конкретном банке. Эта статья - обзор существующих систем ИИ в банковском секторе с реальными примерами.</p><p><strong>1. В чем различие банковских ИИ систем. Международная классификация: HITL, HOTL и HOOTL</strong></p><p><strong>1) Human-in-the-Loop (HITL)</strong>. Человек является прямым участником каждого рабочего цикла системы. ИИ выполняет задачу или предлагает вариант, но финальное решение или одобрение каждого шага <a href="https://airia.com/blog/human-in-the-loop-ai-how-to-design-human-oversight-into-agentic-systems-before-deployment/" rel="noopener nofollow">остается за человеком</a>. </p><p>Пример:</p><p><strong>HSBC, BNP Paribas: </strong>Европа находится под жесточайшим давлением Закона ЕС об ИИ (<a href="https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng" rel="noopener nofollow">EU AI Act</a>). Статья 14 этого закона прямо обязывает финансовые институты разрабатывать высокорисковые ИИ-системы так, чтобы их могли «эффективно контролировать физические лица».</p><p><strong>Кейс:</strong> Потребительские кредиты и ипотека.</p><p><strong>Как устроено:</strong> ИИ считает кредитный балл, используя сотни параметров, но если уровень уверенности модели ниже условных 95%, система обязана перенаправить заявку живому кредитному инспектору. В HSBC создан специальный <a href="https://www.hsbc.com/who-we-are/hsbc-and-digital/hsbc-and-ai/theres-a-risk-in-missing-the-ai-opportunity" rel="noopener nofollow">AI Review Committee</a><u>,</u> который лично валидирует логику работы алгоритмов в спорных случаях. </p><p>Опросы HSBC показывают, что 62% богатых европейских инвесторов требуют, чтобы за финальным решением всегда стоял живой советник, а не алгоритм.</p> <a href="https://habr.com/ru/articles/1078718/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1078718#habracut">Читать далее</a>