Протягом багатьох років визначальною характеристикою гонки штучного інтелекту була швидкість.
Створіть більшу модель. Витрачайте більше на обчислення. Відпустіть його. Промийте і повторіть, не звертаючи уваги на невідомі невідомі.
Середній «p/doom» (ймовірність того, що штучний інтелект зрештою стане катастрофічно неправильним) серед дослідників штучного інтелекту оцінювався у 2024 році від 15% до 20%.
Через рік генеральний директор Anthropic Даріо Амодей підвищив ставки, сказавши, що вірить у 25% шансів, «що справи підуть дуже, дуже погано».
Ще в 2014 році керівник xAI Ілон Маск попереджав:
“Нам потрібно бути надто обережними з штучним інтелектом. Він потенційно небезпечніший за ядерну зброю”.
А генеральний директор OpenAI Сем Альтман у 2015 році визнав, що штучний інтелект «ймовірно, швидше за все, призведе до кінця світу», але тим часом будуть «створені чудові компанії».
З кращими шансами обдурити смерть, граючи в російську рулетку, будь-хто, хто хоча б побіжно зацікавився цією темою, деякий час відчував неприємні відчуття в животі.
Отже, що змінилося?Чому компанії, які ведуть гонку штучного інтелекту, раптом просять натиснути на гальма?
Саме це сталося на вихідних, коли Amodei опублікував есе, у якому закликав до «швидшого темпу» розвитку ШІ, попереджаючи, що можливості ШІ розвиваються швидше, ніж здатність галузі розуміти та контролювати їх, і що Інтернет може бути захоплений зграями ШІ протягом шести-12 місяців.
Альтман загалом погодився, сказавши, що світ заслуговує на «впевненість» у тому, що компанії, які розробляють все більш потужний ШІ, діятимуть «відповідально», а Маск підтримав пропозицію Амодея, просто прокоментувавши:
«Даріо правий».
Занепокоєння також не обмежується компаніями, які створюють технологію. У понеділок глава ООН з прав людини Фолькер Тюрк закликав до «негайних дій» щодо прикордонного ШІ, попередивши про «безпрецедентні ризики» та заявивши, що світ «на порозі незворотних змін».
Якщо компанії, які розробляють найпотужніші моделі штучного інтелекту, щиро вірять, що можливості випереджають контроль, схил p/doom буде ставати крутішим. Або тут ховається інше пояснення?
Чи справді лабораторії штучного інтелекту вийшли на новий рубіж?
Есе Амодея вказує на системи штучного інтелекту, які стають більш автономними, включно з недавнім інцидентом, коли агенти штучного інтелекту OpenAI зламали їхній вихід із контрольованого середовища тестування та скомпрометували частини платформи штучного інтелекту Hugging Face.
Вони проводили «кібербезпекові атаки на цілі, які їх не просили атакувати, і які не мали відношення до поставленого завдання», — сказав Амодей.
Він також підкреслив перспективу рекурсивного самовдосконалення (RSI), коли системи ШІ стають здатними допомагати створювати кращі версії самих себе, які потім можуть допомагати створювати ще кращі системи, потенційно створюючи цикл зворотного зв’язку в розробці ШІ.
Люди, які розробляють ці системи, також все частіше втручаються в бійку, і Джейкоб Коксон з Anthropic став останнім у зростаючому списку співробітників, які звільняються через проблеми безпеки. Минулого тижня він сказав, що індустрія штучного інтелекту «грає з нашим життям», попереджаючи, що гонка штучного інтелекту рухається швидше, ніж гарантії навколо систем.
Джейкоб Коксон з Anthropic йде у відставку через проблеми безпеки. Джерело: Андерсон Купер.
OpenAI вже говорив, що дослідження штучного інтелекту стають дедалі більш автономними, а агенти кодування істотно прискорюють роботу дослідників, використовуючи 3.1 робочих днів агентів на кожен робочий день людської праці до середини серпня.
В інтерв’ю журналу Fortune, опублікованому 12 вересня, Альтман сказав, що OpenAI «розтопить» усі свої графічні процесори, якщо це те, що потрібно для збереження людства, на що генеральний директор Satoshi Action Fund Денніс Портер сказав:
«Ольтман, мабуть, зазирнув через край прірви і побачив щось таке, що налякало його до ч*ба».
У понеділок Альтман сказав, що розвиток штучного інтелекту може піти «дуже погано» двома шляхами: втрата контролю ШІ або потрапляння у «світ із занадто великою концентрацією влади».
Але питання полягає не в тому, чи штучний інтелект вже настільки небезпечний, щоб його вимкнути, а в тому, чи системи, призначені для оцінки та контролю ШІ, тримають темп, і, як сказав Альтман, «швидкість» не означає зупинку. Це означає продовження розробки штучного інтелекту, але повільніше, поки тестування безпеки наздожене.
Оскільки витрати на безпеку та адаптацію штучного інтелекту значно перевищують витрати на розробку та можливості штучного інтелекту, цю прогалину буде важко заповнити.
Frontier AI стає надзвичайно дорогим
Але що, якщо заклики до глобального уповільнення насправді є лише визнанням того, що економіку гонки ШІ стає все важче виправдати?
Як дослідник і викладач ШІ Елі Девід сказав:
«Ідеально пояснює мотивацію Даріо: уповільнити дослідження, щоб скоротити витрати на обчислення, які виходять з-під контролю, щоб він міг зробити IPO».
Інвестор зі штучного інтелекту Грант Хаммер дотримувався такої ж скептичної думки, коментуючи:
«Переклад: наші валові прибутки знижуються до нуля завдяки моделям з відкритим вихідним кодом, а швидкість використання наших капіталовкладень занадто висока».
Проблема полягає в тому, що сама гонка стає все дорожчою, коли дедалі потужніші моделі потребують величезної кількості чіпів, центрів обробки даних, електроенергії та капіталу.
За оцінками Goldman Sachs, у 2026 році глобальні інвестиції в штучний інтелект досягнуть близько 1 трильйона доларів, у тому числі приблизно 581 мільярд доларів у США. Тим часом S&P Global заявляє, що сумарні капіталовкладення шести найбільших гіпермасштабувальників, Alphabet, Amazon, Microsoft, Meta, Oracle і SpaceX, очікується, що до 2027 року перевищать 1,3 трильйона доларів.
У 2026 році глобальні інвестиції в штучний інтелект досягнуть близько 1 трильйона доларів. Джерело: Goldman Sachs
Окрім усього цього, компаніям зі штучним інтелектом ще належить довести, що ці витрати врешті-решт можуть перетворитися на стабільний дохід. У понеділок Reuters звернув увагу на комерційний тиск на компанії штучного інтелекту, щоб вони продовжували наполягати, незважаючи на їхні заклики уповільнити розвиток.
Коли кожна нова можливість може допомогти виправдати черговий раунд фінансування, інвестиції в інфраструктуру чи більш високу оцінку, зупинити підливний поїзд здається нерозумним завданням.
Ед Леон Клінгер, співзасновник і генеральний директор AI-стартапу Flock, відкинув ідею, що лабораторії AI використовують безпеку як прикриття для своїх комерційних інтересів.
Він сказав, що для прикордонних лабораторій немає сенсу вигадувати проблеми безпеки, щоб стимулювати свої первинні публічні пропозиції (IPO), коли це піддасть їх більш ретельному контролю та потенційно затримає їх вихід на біржу.
«Щоб це було правдою, Сем, Даріо, Деміс та Ілон мають брехати разом із великою частиною їхніх керівників, головних наукових співробітників і співробітників, які звільняються… Наразі набагато простіше пояснення: вони вважають, що ризик реальний».
Уолл-стріт і Вашингтон не готові натиснути на гальма
Оскільки трильйони доларів інвестицій вливаються в Сполучені Штати, а інфраструктура штучного інтелекту, як очікується, сприятиме приблизно половині зростання доходів S&P 500 цього року, ні Уолл-стріт, ні Вашингтон, здається, не бажають натиснути на гальма.
Глобальні акції штучного інтелекту не сприйняли цю новину, а азійські акції, пов’язані зі штучним інтелектом, різко впали в понеділок після закликів до уповільнення. SoftBank впав на 13,2%, Kioxia – на 9,8%, а SK Hynix – на 5,3%.
Financial Times повідомила в понеділок, що президент Дональд Трамп відхилив заклики до уповільнення темпів розвитку штучного інтелекту, стверджуючи, що США повинні зберегти перевагу над Китаєм. Він сказав:
«Слухайте, ми лідируємо в Китаї в галузі штучного інтелекту… і, відверто кажучи, я хочу, щоб це було й надалі, тому що той, хто виграє штучний інтелект, переможе».
Трамп сказав, що огорожі можливі, але він відкинув те, що він описав як перебільшене занепокоєння щодо ризиків штучного інтелекту, сказавши журналістам: «Вони піднімають речі, які не відбудуться».
Економіст Ноа Сміт стверджував, що головне заперечення проти «швидшого темпу» ШІ просте: якщо американські компанії сповільняться, китайські компанії можуть їх просто обігнати. Це ставить лабораторії в те, що Сміт називає «гонкою Червоної Королеви», де, якщо вони припинять будівництво, вони бояться, що хтось інший все одно побудує це.
Дослідники штучного інтелекту оцінюють ймовірність загибелі в 2024 році від 15% до 20%. Джерело: Grace et al.
Навіть якби лабораторії хотіли скоординувати уповільнення, це могло б створити ще одну проблему. Повідомляється, що OpenAI запитав членів Конгресу, чи може уповільнення в галузі вплинути на антимонопольне законодавство США, оскільки координація між конкуруючими лабораторіями потенційно може призвести до обмеження виробництва.
Колишній король штучного інтелекту Білого дому та криптовалютний цар Девід Сакс відповів просто на заклик Амодея та Альтмана «вирівнювати межі»: «продовжуйте», сказав він, стверджуючи, що якщо лабораторії хочуть сповільнитися, вони можуть зробити це самі.
Тим не менш, це породжує головну заковику: якщо конкуруючі компанії зі штучним інтелектом координуватимуть уповільнення розвитку, вони можуть зіткнутися з антимонопольними правилами. Якщо кожна з них сповільниться незалежно, вони ризикують поступитися конкурентам і країнам, які йдуть вперед.
То чому вони просять пригальмувати зараз?
Амодей і Альтман не закликають до зупинки ШІ.
Вони вимагають створення системи, у якій можна розробляти потужні моделі штучного інтелекту, коли тестування безпеки, моніторинг і спільні стандарти наздоганяють.
«Коли ми говоримо про «швидкість», ми не маємо на увазі «зупинку», — сказав Альтман, визнаючи, що обґрунтування безпеки та моніторинг потребують «значних витрат», але що «швидкість» «варта б цих витрат».
«Жодний американський конкурентний тиск не повинен виправдовувати безрозсудність або дозволяти можливостям випереджати координацію та моніторинг».
Однак проблема полягає в тому, що цей тиск не зник, і з відстороненням Трампа криків керівників штучного інтелекту та американського фондового ринку, настільки глибоко переплетеного з їхніми компаніями, вони тільки посилюються.
Зараз ті самі компанії, які роками просували кордон вперед, тепер кажуть, що кордон рухається занадто швидко.
