Достижения искусственного интеллекта могут компенсировать самопроизвольные киберугрозы: отчет NCSC

Согласно отчету Национального центра кибербезопасности Соединенного Королевства (NCSC), искусственный интеллект (ИИ) в ближайшие два года значительно увеличит киберугрозы, в частности атаки программ-вымогателей.

В своем отчете NCSC описывает, как можно сбалансировать влияние ИИ на киберугрозы, используя ИИ для усиления кибербезопасности за счет обнаружения и улучшения дизайна. Тем не менее, он рекомендовал провести дальнейшее исследование, чтобы оценить, как достижения ИИ в области кибербезопасности смягчат воздействие угроз.

Атака с помощью программы-вымогателя — это кибератака, при которой вредоносное программное обеспечение развертывается для шифрования файлов или всей системы жертвы. Затем злоумышленники требуют выкуп, обычно в криптовалюте, чтобы предоставить жертве ключ дешифрования или инструменты для восстановления доступа к ее данным.

Ожидается, что влияние ИИ на киберугрозы будет разным, отдавая предпочтение передовым государственным субъектам, имеющим больший доступ к сложным кибероперациям, управляемым ИИ. В отчете социальная инженерия подчеркивается как важнейшая область, в которой ИИ значительно расширит возможности, делая фишинговые атаки более убедительными и более сложными для обнаружения.

В отчете NCSC говорится, что ИИ в основном расширит возможности злоумышленников в области социальной инженерии. Генеративный ИИ (GenAI) уже может создавать убедительные взаимодействия, такие как документы-приманки, без переводных и грамматических ошибок, типичных для фишинга, и ожидается, что в ближайшие два года эта тенденция будет усиливаться по мере развития моделей и роста их популярности.

Поддерживая это заявление, Джеймс Бэббидж, генеральный директор по угрозам Национального агентства по борьбе с преступностью, сказал:

«Услуги искусственного интеллекта снижают барьеры для входа, увеличивая количество киберпреступников, и расширяют их возможности за счет улучшения масштаба, скорости и эффективности существующих методов атак. Мошенничество и сексуальное насилие над детьми также могут особенно пострадать».

По теме: Искусственный интеллект обманывает избирателей и политиков в преддверии выборов в США в 2024 году: «Я думал, что это реально»

Оценка NCSC указывает на проблемы с киберустойчивостью из-за таких моделей ИИ, как генеративный ИИ (GenAI) и модели большого языка (LLM). Эти модели затрудняют проверку легитимности электронных писем и запросов на сброс пароля. Сокращение времени между обновлениями безопасности и эксплуатацией угроз затрудняет быстрое устранение уязвимостей для сетевых менеджеров.

Использование передового искусственного интеллекта в кибероперациях требует опыта, ресурсов и доступа к качественным данным, поэтому высококвалифицированные государственные структуры имеют наилучшие возможности для использования потенциала искусственного интеллекта. Согласно отчету, другие государственные структуры и коммерческие компании увидят умеренный прирост потенциала в ближайшие 18 месяцев.

Несмотря на признание NCSC важности навыков, инструментов, времени и денег для использования передового ИИ в кибероперациях, в отчете говорится, что эти факторы станут менее важными по мере того, как модели ИИ станут более распространенными. Прогнозируется, что доступность киберинструментов с поддержкой ИИ увеличится, поскольку способные группы будут монетизировать киберинструменты с поддержкой ИИ, делая улучшенные возможности доступными для всех, кто готов платить.

В докладе отмечается, что для определения того, когда субъекты угроз смогут эффективно использовать ИИ, объем, сложность и влияние киберопераций будут увеличиваться. Линди Кэмерон, генеральный директор NCSC, говоря о необходимости того, чтобы правительство в первую очередь использовало потенциал ИИ, одновременно управляя его рисками, сказала:

«Мы должны гарантировать, что мы не только используем технологию искусственного интеллекта для ее огромного потенциала, но и управляем ее рисками, включая ее последствия для киберугроз.

Чтобы справиться с этой возросшей угрозой, правительство Великобритании в 2022 году инвестировало 2,6 миллиарда фунтов стерлингов в рамках своей Стратегии кибербезопасности, направленной на повышение устойчивости Великобритании.