Искусственный интеллект в комплаенсе и надзоре

Читать PDF-версию (6 стр.)

Мониторинг операций и финансовые преступления

Комплаенс — одна из самых перспективных и одновременно самых деликатных областей применения искусственного интеллекта. Традиционные системы мониторинга операций генерируют множество предупреждений, и большинство из них после ручной проверки оказываются необоснованными. Модели машинного обучения способны ранжировать предупреждения по вероятности того, что они обоснованы, выявлять закономерности по нескольким счетам и анализировать неструктурированную информацию, например новостные сообщения. Денежно-кредитное управление Сингапура (MAS) отметило, что банки широко применяют такие модели в системах противодействия отмыванию денег и в выявлении мошенничества. Регуляторная опасность здесь симметрична. Модель, которая подавляет обоснованные предупреждения, подвергает банк риску нарушения правил ПОД, рассматриваемых в части H. Модель, которая не может объяснить свой результат, трудно защитить перед надзорным органом или судом. MAS относит регуляторный риск к основным рискам искусственного интеллекта и приводит в пример низкое качество работы модели, которая используется для поддержки мер ПОД.¹

Изменились и данные, от которых зависят такие модели. С 1 апреля 2024 года шесть крупных коммерческих банков могут обмениваться информацией о клиентах с несколькими тревожными признаками через COSMIC — цифровую платформу, которую MAS запустило вместе с ними на основании Закона о внесении изменений в Закон о финансовых услугах и рынках 2023 года (Financial Services and Markets (Amendment) Act 2023). На первом этапе платформа сосредоточена на злоупотреблении юридическими лицами, злоупотреблении торговым финансированием и финансировании распространения оружия массового уничтожения.² Платформа такого рода служит источником структурированных сигналов, которые могут использовать аналитические модели. Её правовая база и значение для борьбы с отмыванием денег рассматриваются в части H.

Модели третьих лиц и концентрация

Большинство учреждений приобретают генеративные модели у небольшого числа глобальных поставщиков. MAS выделило три вытекающих отсюда риска: неизвестные искажения, заложенные данными предварительного обучения, проблемы защиты данных и риск концентрации, когда многие учреждения зависят от одних и тех же базовых моделей. Банки ответили компенсирующим тестированием, планами на случай непредвиденных обстоятельств и пересмотренными договорами, которые предусматривают гарантии качества работы, защиту данных, право на аудит и уведомление, если поставщик встраивает искусственный интеллект в уже оказываемую услугу.³

Окончательная редакция Руководства закрепляет принцип. Учреждение может быть не в состоянии заставить стороннего поставщика внедрить надёжные методы управления рисками. Тем не менее оно по-прежнему отвечает за то, как ИИ третьих лиц используется в его организации, и за возможные последствия для клиентов и других заинтересованных сторон.⁴ Параллельно действуют правила об аутсорсинге и управлении технологическими рисками, рассмотренные в главе E.I.

Инциденты, мониторинг и планы на случай сбоев

Руководство определяет инциденты, связанные с ИИ, как инциденты, при которых базовая система или модель отказывает, работает со сбоями или показывает низкое качество. Отдельный режим отчётности для них MAS решило не вводить. Учреждения должны и дальше сообщать об инцидентах по действующим требованиям об управлении технологическими рисками и непрерывности бизнеса, какой бы ни была первопричина. Для сценариев использования с высокой существенностью риска требуются планы на случай непредвиденных обстоятельств. Модели, которые обновляются автоматически, например системы обучения с подкреплением, требуют более строгого мониторинга, поскольку их поведение может меняться в ходе работы без участия человека.⁵

Для агентных систем мониторинг должен охватывать информационные потоки и пути принятия решений во всех рабочих процессах, включая ход рассуждений, совершённые действия и использованные инструменты. Такой мониторинг позволяет учреждению восстановить отдельные действия по всей цепочке агентов и найти источник сбоя. MAS также предложило рассматривать объём доступа к инструментам и системам как дополнительный параметр существенности риска, поскольку агенты с широкими полномочиями могут усиливать риск компрометации данных.⁶

Собственное использование данных надзорным органом

MAS применяет анализ данных в собственной работе с тех пор, как учредило должность главного специалиста по данным (Chief Data Officer); на момент публикации принципов FEAT её занимал Дэвид Хардун. Надзорные подразделения используют аналитические инструменты для обработки регуляторной отчётности, проверки сообщений о подозрительных операциях и выявления признаков злоупотреблений на рынке.⁷ Сами надзорные отношения от этих инструментов не меняются. Они помогают надзорному органу выбрать учреждения и операции, заслуживающие внимания, а оценку по-прежнему выносит человек на основании законов, описанных в главе E.I.

Примечания

1. MAS, Information Paper, декабрь 2024 г., п. 2.1: ML-модели на основе деревьев решений “commonly used in anti-money laundering (AML) systems to detect suspicious transactions, and in fraud detection systems” – MAS, Information Paper, декабрь 2024 г., п. 2.2: “Regulatory risks, e.g., poor performance of AI used to support AML efforts could lead to non-compliance with regulations.” ↩
2. MAS, “COSMIC” (mas.gov.sg, дата обращения: ноябрь 2026 г.): запущена 1 апреля 2024 г.; участники — DBS, OCBC, UOB, SCB, Citibank и HSBC; правовая основа — Financial Services and Markets (Amendment) Act 2023 и Financial Services and Markets (Information Sharing Scheme for Prescribed Financial Institutions) Regulations 2024; три области риска. ↩
3. MAS, Information Paper, декабрь 2024 г., п. 7.2.1: риски ИИ третьих лиц включают “unknown biases from pre-training data, data protection concerns, as well as concentration risks due to increased interdependencies” – MAS, Information Paper, декабрь 2024 г., п. 7.2.2(a)–(d): компенсирующее тестирование, планирование на случай непредвиденных обстоятельств, договоры с оговорками о “performance guarantees, data protection, the right to audit, and notification when AI is introduced”, а также меры по повышению осведомлённости. ↩
4. MAS, Response to Feedback, 7 октября 2026 г., пп. 9.3–9.4: финансовое учреждение “remains accountable for how third-party AI is used within its organisation”; “the onus is on the FI to ensure that risks arising from its use of third-party AI are appropriately managed”. ↩
5. MAS, Response to Feedback, 7 октября 2026 г., п. 10.69: определение “AI incidents”; “MAS does not intend to introduce AI-specific incident reporting requirements at this juncture” – MAS, Response to Feedback, 7 октября 2026 г., пп. 10.67 и 10.70. ↩
6. MAS, Response to Feedback, 7 октября 2026 г., п. 12.8 – MAS, Response to Feedback, 7 октября 2026 г., п. 7.7: финансовое учреждение может рассматривать “the extent of access to tools and systems granted as an additional dimension for AI risk materiality assessments of agentic AI”. ↩
7. Об использовании MAS анализа данных и машинного обучения в надзоре и при анализе сообщений о подозрительных операциях см. годовые отчёты MAS начиная с 2018/19 г. и выступления должностных лиц MAS о надзорных технологиях. ↩

Только для общего ознакомления. Статья не является юридической или налоговой консультацией, не заменяет консультацию по конкретному делу и не создаёт отношений между адвокатом и клиентом. Она отражает правовое положение по состоянию на октябрь 2026.