Генеральний директор Anthropic Даріо Амодей заявив у блозі в суботу, що швидкість розробки штучного інтелекту є надто високою, і якщо її не контролювати, вона може «випередити нашу здатність розуміти та контролювати ці системи».
Він зазначив, що нинішній стрімкий прогрес штучного інтелекту обумовлений його власною зростаючою здатністю створювати наступне покоління штучного інтелекту або рекурсивним самовдосконаленням.
Амодей також згадав інцидент OpenAI-Hugging Face у липні, коли рій агентів діяв як «фанатично відданий колектив», вирвавшись із середовища тестування та намагаючись зламати грейдер, який оцінював їх продуктивність.
Він сказав, що він хвилюється, що через шість-12 місяців такий рій може захопити весь Інтернет. Амодей не самотній у своїх тривогах.
Ілон Маск, глава SpaceXAI, написав на X, що «Даріо правий».
Altman не буде проводити IPO цього року, зосередьтеся на безпеці
Генеральний директор OpenAI Сем Альтман заявив в інтерв’ю журналу Fortune, опублікованому в суботу, що його компанія не збиратиметься виходити на IPO цього року, оскільки вона буде зосереджена на безпеці та тому, як «індустрія та уряди можуть працювати разом».
Пізніше Альтман опублікував на X, що він погодився уповільнити темпи розвитку штучного інтелекту та мати незалежних оцінювачів із доступом, схожим на працівників, — одну з трьох пропозицій, викладених у блозі Амодея.
Anthropic вже взяв на себе зобов’язання зробити цей крок в односторонньому порядку, написав Amodei.
По-друге, він запропонував, щоб «передові компанії ШІ в демократичних країнах координували роботу, щоб встановити загальні стандарти безпеки, а також обмеження швидкості неконтрольованого прогресу ШІ».
І по-третє, він сказав, що США та інші демократичні уряди повинні «намагатися координувати дії з авторитарними урядами, наскільки це можливо, серйозно ставлячись до проблем перевірки відповідності».
Амодей продовжив детально досліджувати свої три пропозиції, зокрема третю, щодо Китаю та запобігання йому отримання передових мікросхем.
Він дійшов висновку, що курс, який він намітив, буде нелегким, але компанії зі штучним інтелектом «обов’язані спробувати це перед людством».
