В то время как достижения искусственного интеллекта открывают возможности в различных отраслях, инновации также могут стать целями хакеров, подчеркивая потенциал злоупотребления ИИ.
Департамент интеллекта угроз Google выпустил статью под названием «Способное злоупотребление генеративным искусственным интеллектом», выявив, как актеры угроз подошли к своему искусственному интеллекту Чатбота Близнецов.
По словам Google, актеры угроз попытались джейлбрейк ИИ, используя подсказки. Кроме того, поддерживаемые правительством группы передовой постоянной угрозы (APT) пытались использовать Близнецы, чтобы помочь им в злонамеренных усилиях.
Google сообщает о неудачных попытках джейлбрейка Близнецы
Google сказал, что в то время как актеры угроз пытались джейлбрейк Близнецов, компания не видела передовых попыток в этом векторе атаки.
Согласно Google, хакеры использовали только основные меры, такие как перефразирование или неоднократно отправка той же подсказки. Google сказал, что попытки были неудачными.
Ай -джейлбрейки – это быстрые атаки инъекций, которые направлены на то, чтобы получить модель ИИ для выполнения задач, которые было запрещено выполнять. Это включает в себя утечку конфиденциальной информации или предоставление небезопасного контента.
Google сказал, что в одном случае актер APT использовал общедоступные подсказки, чтобы обмануть Близнецов в выполнение вредоносных задач кодирования. Тем не менее, Google сказал, что попытка была безуспешной, поскольку Близнецы предоставили ответный ответ.
Связанный: Индия, чтобы запустить генеративную модель искусственного интеллекта в 2025 году на фоне безумия Deepseek
Как поддерживаемые правительством субъекты угрозы использовали Близнецы
В дополнение к попыткам джейлбрейка с низкоэффективным джейлбрейком Google сообщил, как поддерживаемые правительством APT подошли к Близнецам.
Google сказал, что эти злоумышленники пытались использовать Близнецы, чтобы помочь в их вредоносных действиях. Это включало сбор информации по их целям, исследование общедоступных уязвимостей, задач кодирования и сценариев. Кроме того, Google сказал, что были предприняты попытки обеспечить посткомпромиссную деятельность, такие как уклонение от уплаты обороны.
Google сообщил, что базирующиеся в Иране актеры APT сосредоточились на использовании ИИ в создании фишинговых кампаний. Они также использовали модель искусственного интеллекта для проведения разведывания экспертов и организаций обороны. Аптеры APT в Иране также использовали ИИ для создания контента кибербезопасности.
Между тем, подходящие актеры Китая использовали Близнецы для устранения кодов, сценариев и разработки. Кроме того, они использовали ИИ, чтобы исследовать, как получить более глубокий доступ к своим целевым сетям.
Аптеры APT в Северной Корее также использовали Близнецы для различных этапов своего жизненного цикла атаки, от исследований до разработки. В отчете говорилось:
«Они также использовали Близнецы, чтобы исследовать темы стратегического интереса для правительства Северной Кореи, таких как военная военная и криптовалюта Южной Кореи».
В 2024 году северокорейские хакеры украли цифровые активы в размере 1,3 миллиарда долларов, согласно цепочке.
