Удосконалення штучного інтелекту можуть компенсувати самоіндуковану кіберзагрозу: звіт NCSC

Відповідно до звіту Національного центру кібербезпеки Сполученого Королівства (NCSC), штучний інтелект (ШІ) значно збільшить кіберзагрози, зокрема атаки програм-вимагачів, протягом наступних двох років.

У своєму звіті NCSC описує, як вплив штучного інтелекту на кіберзагрози можна збалансувати шляхом використання штучного інтелекту для зміцнення кібербезпеки шляхом виявлення та покращеного дизайну. Проте він рекомендував провести додаткові дослідження, щоб оцінити, як прогрес штучного інтелекту в кібербезпеці пом’якшить вплив загроз.

Атака програм-вимагачів – це кібератака, під час якої зловмисне програмне забезпечення розгортається для шифрування файлів жертви або всієї системи. Потім зловмисники вимагають викуп, як правило, у криптовалюті, щоб надати жертві ключ розшифровки або інструменти для відновлення доступу до своїх даних.

Очікується, що вплив штучного інтелекту на кіберзагрози буде різним, надаючи перевагу розвиненим державним суб’єктам із більшим доступом до складних кібероперацій, керованих ШІ. У звіті висвітлюється соціальна інженерія як критична сфера, де ШІ значно розширить можливості, зробивши фішингові атаки переконливішими та складнішими для виявлення.

У звіті NCSC зазначено, що штучний інтелект головним чином покращить здібності учасників загроз у соціальній інженерії. Генеративний штучний інтелект (GenAI) уже може створювати переконливі взаємодії, як-от документи-приманки, без перекладу та граматичних помилок, поширених у фішингу, і очікується, що ця тенденція буде зростати протягом наступних двох років, оскільки моделі розвиватимуться та набиратимуть популярності.

Підтримуючи цю заяву, Джеймс Беббідж, генеральний директор із загроз Національного агентства боротьби зі злочинністю, сказав:

«Сервіси штучного інтелекту знижують бар’єри для входу, збільшуючи кількість кіберзлочинців, і підвищать їхні можливості за рахунок покращення масштабу, швидкості та ефективності існуючих методів атак. Шахрайство та сексуальне насильство над дітьми також особливо ймовірно постраждають».

За темою: штучний інтелект вводить в оману виборців і політиків напередодні виборів у США 2024 року — «Я думав, що це правда»

Оцінка NCSC вказує на проблеми в кіберстійкості через такі моделі ШІ, як Generative AI (GenAI) і великі мовні моделі (LLM). Ці моделі ускладнюють перевірку законності електронних листів і запитів на скидання пароля. Зменшення часу між оновленнями безпеки та використанням загроз ускладнює швидке виправлення вразливостей для менеджерів мереж.

Використання передового ШІ в кіберопераціях потребує досвіду, ресурсів і доступу до якісних даних, тому високопрофесійні державні суб’єкти мають найкращі можливості для використання потенціалу ШІ. Згідно зі звітом, інші державні суб’єкти та комерційні компанії побачать помірне збільшення можливостей у наступні 18 місяців.

Незважаючи на те, що NCSC визнає важливість навичок, інструментів, часу та грошей для використання передового ШІ в кіберопераціях, у звіті зазначено, що ці фактори стануть менш вирішальними, оскільки моделі ШІ стануть більш поширеними. Передбачається, що доступність кіберінструментів із підтримкою штучного інтелекту збільшиться, оскільки спроможні групи монетизуватимуть кіберінструменти з підтримкою штучного інтелекту, роблячи вдосконалені можливості доступними для всіх, хто готовий платити.

Щоб визначити, коли зловмисникам вдалося ефективно використовувати штучний інтелект, у звіті зазначається, що збільшиться обсяг, складність і вплив кібероперацій. Лінді Кемерон, генеральний директор NCSC, говорячи про необхідність для уряду спочатку використовувати потенціал штучного інтелекту, одночасно керуючи його ризиками, сказала:

«Ми повинні переконатися, що ми використовуємо величезний потенціал технології штучного інтелекту та керуємо її ризиками, включаючи її наслідки для кіберзагроз.

Щоб подолати цю посилену загрозу, у 2022 році уряд Великої Британії інвестував 2,6 мільярда фунтів стерлінгів у рамках своєї Стратегії кібербезпеки для підвищення стійкості Великобританії.