Министерство обороны США прогнозирует битву ИИ против борьбы с ИИ

Министерство обороны США (DOD) опубликовало 25 января заявление, в котором описывалось начало использования искусственного интеллекта (ИИ) и предсказывалось битва между ИИ и противодействием ИИ.

Заявление последовало за выступлением Джуда Р. Сандербруха, исполнительного директора Центра по борьбе с киберпреступностью Министерства обороны США, на форуме Google Defense Forum. По сути, эта «битва» с «противоИИ» относится к выявлению и блокированию попыток манипулирования системами ИИ при создании систем ИИ, устойчивых к таким атакам.

«Противники каждый день пытаются преодолеть наши границы и нашу безопасность. Они движутся со «световой скоростью». Они подключены к оптоволоконным сетям и могут мгновенно переключаться с одного VPS на другой, поэтому использование искусственного интеллекта, чтобы попытаться опередить это, будет иметь важное значение».

Сандербрух сказал, что эта «битва» поднимет серьезные вопросы о том, что такое «правда». Он также сказал, что назвал бы это не «гонкой вооружений», а скорее «стратегическим соревнованием».

Аналогичные настроения были отражены в пространстве разработчиков, когда в декабре 2023 года руководитель Meta по искусственному интеллекту Ян ЛеКун заявил, что продолжается «война искусственного интеллекта».

Министерство обороны заявило, что считает, что США имеют хорошие возможности для достижения успехов в сфере искусственного интеллекта, и заявило, что ближайшая цель состоит в том, чтобы использовать доступные в настоящее время инструменты искусственного интеллекта и применять их к информации, которую правительство совмещает с другой доступной информацией.

Связанный: Достижения искусственного интеллекта могут компенсировать самопроизвольную киберугрозу: отчет NCSC

Обучение моделей ИИ «разнообразной полезной информацией» и применение инструментов ИИ для анализа угроз и уязвимостей также были двумя целями, которые Министерство обороны заявило, что намерено преследовать их.

Директор разведки Агентства оборонных информационных систем полковник армии Ричард Лич, который также присутствовал на дискуссии, подчеркнул роль искусственного интеллекта в помощи в обработке «цунами данных», которые предоставляются лицам, принимающим решения.

«Пусть ИИ определит ключевые фрагменты информации и, возможно, проведет базовый анализ. Пусть аналитики сосредоточатся на сложном наборе проблем, чтобы они не тратили зря время, ресурсы и людей».

Лич сказал, что использование ИИ будет важно для понимания меняющегося, развивающегося цифрового ландшафта. «Каждый раз, когда кто-то меняет свою сеть, обновляет свои исправления или перенастраивает сеть, — сказал он, — они меняют окружающую среду и поле боя».

Правительство США активно изучает, как оно может использовать и регулировать системы искусственного интеллекта.30 октября администрация Байдена издала указ, устанавливающий шесть новых стандартов безопасности и защиты ИИ.

10 января представители правоохранительных органов США предупредили о том, что ИИ может способствовать хакерству, мошенничеству и отмыванию денег за счет снижения барьера для доступа к техническим навыкам, необходимым для осуществления таких преступлений.