Годовой отчет финансовых регуляторов США предупреждает о рисках ИИ

14 декабря группа регулирующих органов предупредила, что быстрое внедрение искусственного интеллекта (ИИ) может создать новые риски для финансовой системы США, если технология не будет надлежащим образом контролироваться.

Совет по надзору за финансовой стабильностью, в состав которого входят ведущие финансовые регуляторы под председательством министра финансов Джанет Йеллен, впервые отметил риски, связанные с ИИ, в своем ежегодном отчете о финансовой стабильности.

Хотя команда признала потенциал ИИ для стимулирования инноваций и повышения эффективности финансовых учреждений, они подчеркнули, что компаниям и регулирующим органам необходимо сохранять бдительность в связи с быстрым технологическим прогрессом.

В своем годовом отчете группа подчеркнула, что ИИ несет в себе определенные риски, такие как риски кибербезопасности и моделирования. Было предложено, чтобы компании и регулирующие органы расширили свои знания и возможности для мониторинга инноваций и использования искусственного интеллекта и выявления возникающих рисков.

Согласно отчету, конкретные инструменты искусственного интеллекта являются высокотехнологичными и сложными, что создает проблемы для учреждений в их эффективном объяснении или контроле. В докладе предупреждается, что компании и регулирующие органы могут игнорировать предвзятые или неточные результаты без полного понимания.

В отчете также подчеркивается, что инструменты искусственного интеллекта все больше зависят от обширных внешних наборов данных и сторонних поставщиков, что вызывает проблемы конфиденциальности и кибербезопасности.

Некоторые регулирующие органы, в том числе Комиссия по ценным бумагам и биржам (часть комиссии), исследовали использование ИИ компаниями. Одновременно Белый дом издал указ, направленный на устранение и снижение рисков, связанных с ИИ.

Связанный: Собирается ли OpenAI выпустить новое обновление ChatGPT?Сэм Альтман говорит «нет»

Папа Франциск в письме от 8 декабря выразил обеспокоенность по поводу потенциальных угроз ИИ для человечества. Он выступает за международный договор об этическом регулировании развития ИИ, предостерегая от риска «технологической диктатуры» без надлежащего контроля.

Такие деятели технологий, как Илон Маск и Стив Возняк, выразили обеспокоенность по поводу быстрого прогресса искусственного интеллекта. В марте 2023 года более 2600 технологических лидеров и исследователей, включая Маска и Возняка, подписали петицию, призывающую «приостановить» разработку ИИ. Они подчеркнули потенциальные «серьезные риски для общества и человечества», создаваемые достижениями ИИ, превосходящими GPT-4.