Генеральний директор Nvidia Дженсен Хуанг попередив, що Китай вже має обчислювальну потужність і потужності центру обробки даних, необхідні для навчання моделі штучного інтелекту на тому ж рівні, що й модель штучного інтелекту від Anthropic Claude Mythos, що може загрожувати глобальній кібербезпеці.
В інтерв’ю підкасту Dwarkesh Patel у середу Хуанга запитали, чи може доступ китайського уряду до чіпів для навчання такої моделі, як Клод Мітос, яка має здатність до кібернаступу, становити загрозу національній безпеці США.
За словами Хуан, Mythos був навчений на «досить приземленому рівні».
«Обсяг потужностей і тип обчислень, на яких він навчався, доступні в Китаї в достатку, тому вам просто потрібно спочатку усвідомити, що чіпи існують у Китаї».
У квітні Anthropic обмежив доступ до своєї нової моделі штучного інтелекту після того, як виявив тисячі вразливостей програмного забезпечення в основних операційних системах і браузерах, що викликало занепокоєння щодо можливого зловживання під час кібератак. Вироблена в Китаї модель штучного інтелекту з такими ж можливостями може спричинити хаос у разі неправильного використання.
Хуан сказав, що кількість обчислювальних ресурсів у Китаю є «величезною».
“У них є центри обробки даних, які стоять абсолютно порожні, повністю забезпечені. Ви знаєте, у них є міста-привиди, у них також є центри обробки даних. У них така велика інфраструктура. Якби вони хотіли, вони [могли б] просто зібрати більше мікросхем”.
Заклик до діалогу, а не конфлікту
Хуан додав, що Китай виробляє 60% основних світових чіпів, має одні з найкращих комп’ютерних вчених, має 50% світових дослідників ШІ та надлишок енергії.
«Викликати їх, перетворювати їх на ворога, ймовірно, не найкраща відповідь», — сказав він. «Вони є ворогом».
“Ми хочемо, щоб Сполучені Штати виграли. Але я вважаю, що вести діалог і дослідницький діалог, мабуть, найбезпечніше”.
У вівторок міністр фінансів США Скотт Бессент назвав Mythos революційним кроком, який дозволить Америці випередити Китай у гонці ШІ. «Ця модель Anthropic Mythos була ступінчастою зміною функцій у здібностях, можливостях навчання», — сказав він, повідомляє Bloomberg.
Клод Мітос становить реальну загрозу
Anthropic оприлюднив висновки на Claude Mythos Preview 7 квітня, що викликало занепокоєння, що модель може бути використана в кібератаках через її здатність виявляти та потенційно використовувати вразливості нульового дня. Компанія також стверджувала, що 99% вразливостей, які виявила модель, ще не виправлені.
Тим часом Інститут безпеки штучного інтелекту (AISI) оцінив Mythos 13 квітня, виявивши, що модель штучного інтелекту може «виконувати багатоетапні атаки на вразливі мережі та автономно виявляти й використовувати вразливості», завдання, для виконання яких у професіоналів потрібно кілька днів роботи.
Злом Mythos за допомогою штучного інтелекту також може мати жахливі наслідки для банків, які часто використовують старе програмне забезпечення, повідомляє Reuters у вівторок.
Минулого року Anthropic повідомила в листопаді, що «група, спонсорована державою Китаю», маніпулювала своїм інструментом Claude Code, намагаючись проникнути приблизно до 30 глобальних цілей і досягла успіху в невеликій кількості випадків.
