ФСБ призывает ужесточить надзор за уязвимостями ИИ

Совет по финансовой стабильности (FSB), международный орган, который контролирует и дает рекомендации по глобальной финансовой системе, опубликовал документ, в котором анализируются последствия искусственного интеллекта в финансовых услугах и способы снижения потенциальных рисков.

14 ноября ФСБ опубликовала документ под названием «Последствия искусственного интеллекта для финансовой стабильности». В рамках документа СФС исследовало, как ИИ может влиять на существующие финансовые системы и инфраструктуру во всем мире.

СФС признало, что искусственный интеллект предлагает множество преимуществ, таких как повышение операционной эффективности, персонализация продуктов, улучшение соблюдения нормативных требований и предоставление расширенного анализа данных. Однако ФСБ также считает, что ИИ может «усилить» уязвимости в финансовом секторе.

ИИ может усилить уязвимости в финансовом секторе

По данным ФСБ, некоторые уязвимости ИИ выделяются тем, что потенциально могут увеличить системные риски. Сюда входят зависимости от третьих сторон и концентрация поставщиков услуг, киберриски, рыночные корреляции и модельные риски, качество данных и управление.

ФСБ также признала, что злоумышленники могут использовать генеративный искусственный интеллект для совершения мошенничества. ФСБ написало:

«GenAI также увеличивает вероятность финансового мошенничества и дезинформации на финансовых рынках. Несогласованные системы искусственного интеллекта, которые не приспособлены для работы в рамках правовых, нормативных и этических границ, также могут вести себя так, что наносят ущерб финансовой стабильности».

4 сентября в отчете компании-разработчика программного обеспечения Gen Digital подчеркивалось, что мошенники с использованием искусственного интеллекта активизировали свою деятельность во втором квартале 2024 года. Эксперты по безопасности также полагают, что мошенничество с использованием искусственного интеллекта станет более сложным. Представитель CertiK ранее сообщил Cointelegraph, что это может выходить за рамки видео и аудио.

Связанный: Meta тестирует использование распознавания лиц для борьбы с дипфейковой рекламой знаменитостей

Как снизить риски ИИ в финансах

В свете своих выводов СФС рекомендовало решения, включая устранение пробелов в данных и информации при мониторинге развития ИИ в сфере финансов. В ФСБ также заявили, что регуляторам может быть полезно «активизировать взаимодействие» с частным сектором. Сюда входят поставщики услуг, разработчики и ученые.

В ФСБ также заявили, что власти должны оценить, являются ли существующие нормативные базы адекватными для устранения местных и международных уязвимостей. Кроме того, регулирующие органы должны также рассмотреть способы расширения надзорных и регулятивных возможностей для надзора за политическими рамками, связанными с использованием ИИ в финансах.