ФСБ закликає посилити нагляд за вразливістю ШІ

Рада з фінансової стабільності (FSB), міжнародний орган, який здійснює моніторинг і дає рекомендації щодо глобальної фінансової системи, опублікував статтю, в якій аналізується наслідки штучного інтелекту для фінансових послуг і способи пом’якшення потенційних ризиків.

14 листопада ФСБ опублікувала документ під назвою «Наслідки штучного інтелекту для фінансової стабільності». У документі FSB дослідила, як ШІ може впливати на існуючі фінансові системи та інфраструктуру в усьому світі.

FSB визнала, що штучний інтелект пропонує багато переваг, таких як підвищення ефективності роботи, персоналізація продуктів, покращення відповідності нормативним вимогам і забезпечення розширеної аналітики даних. Однак ФСБ також вважає, що штучний інтелект має потенціал для «посилення» вразливостей у фінансовому секторі.

ШІ може посилити вразливість у фінансовому секторі

За даними FSB, деякі вразливості AI виділяються, оскільки вони потенційно можуть збільшити системні ризики. Це включає в себе залежність від третіх сторін і концентрацію постачальників послуг, кіберризики, ринкові кореляції та модельні ризики, якість даних і управління.

ФСБ також визнала, що зловмисники можуть використовувати генеративний ШІ для здійснення шахрайства. ФСБ пише:

«GenAI також збільшує потенціал для фінансового шахрайства та дезінформації на фінансових ринках. Невідповідні системи штучного інтелекту, які не відкалібровані для роботи в рамках правових, регулятивних і етичних кордонів, також можуть діяти, що шкодить фінансовій стабільності».

4 вересня у звіті фірми-виробника програмного забезпечення Gen Digital наголошується, що шахраї AI deepfake криптовалюти нарощували свої операції протягом другого кварталу 2024 року. Експерти з безпеки також вважають, що шахрайство з deepfake на основі штучного інтелекту стане складнішим. Раніше представник CertiK сказав Cointelegraph, що це може вийти за рамки відео та аудіо.

За темою: Meta тестує використання розпізнавання обличчя для боротьби з глибокою фейковою рекламою знаменитостей

Як зменшити ризики ШІ у фінансах

У світлі своїх висновків ФСБ рекомендувала рішення, зокрема усунення прогалин у даних та інформації під час моніторингу розвитку ШІ у фінансах. ФСБ також заявила, що для регуляторів може бути корисно «посилити свою взаємодію» з приватним сектором. Це включає постачальників послуг, розробників і науковців.

ФСБ також зазначила, що органи влади повинні оцінити, чи достатня поточна нормативна база для усунення місцевих і міжнародних вразливостей. Крім того, регулятори також повинні розглянути способи посилення наглядових і регуляторних можливостей для нагляду за рамками політики, пов’язаними з використанням ШІ у фінансах.