Следующий банковский кризис может начаться с ИИ. Глава FSB предупредил о новой эре кибератак
Следующая крупная кибератака на финансовый сектор может развиваться быстрее, охватить больше организаций и обходиться злоумышленникам дешевле благодаря новым возможностям искусственного интеллекта. Председатель Совета по финансовой стабильности (FSB) Эндрю Бейли предупредил, что передовые ИИ-модели начинают менять скорость, масштаб и экономику киберрисков, а последствия способны выйти за пределы отдельного банка или компании.
Особое беспокойство вызывают наиболее мощные модели нового поколения, способные самостоятельно решать всё более сложные задачи и выполнять длинные последовательности действий с меньшим участием человека. FSB отмечает рост автономности, способности к решению проблем и возможностей, пригодных для создания киберугроз. По оценке Бейли, влияние подобных систем на киберриски представляет наиболее непосредственную проблему для финансового сектора.
Опасность связана не только с появлением новых способов взлома. Искусственный интеллект позволяет автоматизировать уже известные этапы атак: искать слабые места, обрабатывать большие объёмы информации, совершенствовать вредоносный код и масштабировать целевой фишинг. Международный валютный фонд в июньском исследовании пришёл к выводу, что главная угроза для финансовой стабильности заключается скорее не в принципиально новых разновидностях атак, а в резком увеличении скорости и масштаба эксплуатации уже существующих уязвимостей.
Автоматизация сокращает время между обнаружением слабого места и попыткой эксплуатации. Защитникам приходится реагировать на атаки, развивающиеся с машинной скоростью, тогда как многие процедуры обнаружения инцидентов, принятия решений и восстановления по-прежнему требуют участия специалистов. ИИ одновременно усиливает защиту финансовых организаций и расширяет возможности атакующих, поэтому преимущество получает сторона, способная быстрее автоматизировать весь цикл работы с уязвимостью.
Дополнительный системный риск создаёт зависимость банков, бирж, платёжных систем и других финансовых организаций от одних и тех же технологических компаний. FSB ранее обратил внимание на концентрацию облачной инфраструктуры, специализированного оборудования и готовых ИИ-моделей у сравнительно небольшого числа поставщиков. Сбой, компрометация или недоступность критически важного сервиса при высокой концентрации способна одновременно затронуть множество участников рынка.
Регуляторы рассматривают и более традиционные риски, которые искусственный интеллект способен усилить. В анализе FSB среди наиболее значимых проблем названы одинаковые реакции алгоритмов на рыночные события, ошибки моделей, низкое качество данных, непрозрачность решений и концентрация поставщиков. Массовое использование похожих моделей для торговли или оценки рисков может привести к синхронным действиям финансовых компаний и ускорить падение рынка в стрессовой ситуации.
Новые риски уже заставляют регуляторов менять подход к внедрению искусственного интеллекта. В июне FSB предложил для обсуждения 12 практик ответственного использования ИИ финансовыми организациями. Рекомендации охватывают управление моделями на протяжении всего жизненного цикла, контроль со стороны руководства, работу с данными, оценку рисков и применение новых классов систем, включая генеративный и агентный ИИ.
В свежем обращении Бейли призвал государства уделить приоритетное внимание безопасному выпуску и внедрению передовых моделей. Финансовым компаниям FSB рекомендует укреплять механизмы реагирования и восстановления после инцидентов, а также заранее оценивать устойчивость критически важных технологических поставщиков. Совет уже изучает дополнительные меры, которые международные финансовые регуляторы смогут принять в рамках существующих полномочий.
Предупреждение касается не только кибербезопасности. FSB также фиксирует сочетание высоких рыночных оценок, концентрации капитала вокруг компаний, связанных с искусственным интеллектом, и роста использования заёмных средств на фондовых рынках. По оценке Бейли, подобная комбинация способна усилить будущую коррекцию. В результате ИИ постепенно превращается для финансовых регуляторов из технологического инструмента в отдельный фактор системного риска.