Генеральный директор Nvidia Дженсен Хуанг предупредил, что Китай уже обладает вычислительной мощностью и мощностью центров обработки данных, необходимыми для обучения модели искусственного интеллекта на том же уровне, что и модель искусственного интеллекта Anthropic Claude Mythos, которая может угрожать глобальной кибербезопасности.
В среду в интервью подкасту Dwarkesh Patel Хуана спросили, может ли доступ китайского правительства к чипам для обучения такой модели, как Claude Mythos, обладающей возможностями кибернаступления, представлять угрозу национальной безопасности США.
По словам Хуанга, Мифос обучался на «довольно приземленных способностях».
«Объем мощности и тип вычислительной машины, на которой он был обучен, в изобилии доступны в Китае, поэтому вам просто нужно сначала осознать, что чипы существуют в Китае».
Anthropic ограничила доступ к своей новой модели искусственного интеллекта в апреле после того, как обнаружила тысячи уязвимостей программного обеспечения в основных операционных системах и браузерах, что вызвало обеспокоенность по поводу возможного неправильного использования в кибератаках. Модель искусственного интеллекта китайского производства с такими же возможностями может нанести ущерб, если ее неправильно использовать.
Хуан сказал, что объем вычислительных ресурсов, которыми располагает Китай, «огромен».
“У них есть центры обработки данных, которые совершенно пусты и полностью оснащены электроэнергией. Знаете, у них есть города-призраки, у них тоже есть центры обработки данных-призраки. У них такая большая инфраструктурная мощность. Если бы они захотели, они [могли бы] просто собрать больше чипов”.
Призыв к диалогу, а не конфликту
Хуан добавил, что Китай производит 60% основных мировых чипов, имеет одних из лучших ученых-компьютерщиков, 50% мировых исследователей искусственного интеллекта и изобилие энергии.
«Преследовать их, превращать во врагов, вероятно, не лучший ответ», — сказал он. «Они враги».
“Мы хотим, чтобы Соединенные Штаты победили. Но я думаю, что вести диалог и вести исследовательский диалог, вероятно, самое безопасное, что можно сделать”.
Во вторник министр финансов США Скотт Бессент приветствовал Mythos как революционный шаг, который позволит Америке опередить Китай в гонке ИИ. «Эта модель антропных мифов представляла собой ступенчатое изменение способностей и способностей к обучению», — сказал он, согласно Bloomberg.
Клод Мифос представляет реальную угрозу
7 апреля компания Anthropic опубликовала выводы по Claude Mythos Preview, вызвав опасения, что модель может быть использована в кибератаках из-за ее способности обнаруживать и потенциально использовать уязвимости нулевого дня. Компания также заявила, что 99% обнаруженных моделью уязвимостей до сих пор не исправлены.
Тем временем Институт безопасности искусственного интеллекта (AISI) 13 апреля провел оценку Mythos и обнаружил, что модель искусственного интеллекта может «выполнять многоэтапные атаки на уязвимые сети, а также обнаруживать и использовать уязвимости автономно» — задачи, на выполнение которых у профессионалов у людей уйдут дни работы.
Взломы Mythos с помощью искусственного интеллекта также могут иметь ужасные последствия для банков, которые часто используют программное обеспечение десятилетней давности, сообщило агентство Reuters во вторник.
В ноябре прошлого года Anthropic сообщила, что «группа, спонсируемая китайским государством», манипулировала своим инструментом Claude Code в попытке проникнуть примерно в 30 глобальных целей и преуспела в небольшом количестве случаев.
