Інструмент кодування штучного інтелекту, який сприяє подібним до криптовалютного обміну Coinbase, є вразливість, що дозволяє хакерам мовчки вводити зловмисне програмне забезпечення та “поширювати себе по організації”, – каже фірма з кібербезпеки.
Hiddenlayer повідомив у четвер, що “ліцензія на ліцензію на Copypasta” може приховати шкідливі інструкції у загальних файлах розробників, щоб “ввести навмисні вразливості в кодові бази, які в іншому випадку були б захищеними”.
“Переконавши основну модель, що наше корисне навантаження є насправді важливим файлом ліцензії, який повинен бути включений як коментар у кожному файлі, який редагує агент, ми можемо швидко розподілити оперативну ін’єкцію через цілі кодові бази з мінімальними зусиллями”, – додається.
Hiddenlayer переважно перевіряв вірус на курсорі, інструмент кодування, що працює на AI, про який інженерна команда Coinbase заявила в серпні, що є кращим інструментом для більшості своїх розробників і використовувався “кожним інженером Coinbase” до лютого.
Інструменти кодування AI Windsurf, Kiro та Aider також виявились вразливими до нападу, повідомляє Hiddenlayer.
Copypasta ховається у загальних файлах
Hiddenlayer пояснив, що атака Copypasta ставить приховані інструкції або “оперативні ін’єкції” у файли Licent.txt та readme.md, які можуть направляти інструменти кодування AI без того, щоб користувач знає.
Вірус, або оперативна ін’єкція для AI, прихована в коментарі до відміття – текст у файлі Readme, що використовується для додавання пояснювачів або нотаток, які не показані, коли він переведений у свій остаточний формат.
Hiddenlayer створив сховище коду з вірусом і попросив курсор використовувати його, і приховані інструкції побачили, як він копіює швидку ін’єкцію до нових створених файлів.
“Цей механізм може бути пристосований для досягнення набагато більш нестримних результатів”, – сказала компанія.
“Ін’єкційний код може створити задні, мовчки, розраховані на чутливі дані, впроваджувати операції з дренування ресурсів, які калікують системи, або маніпулюють критичними файлами для порушення розвитку та виробничих умов”,-додав Hiddenlayer.”Всі, поки поховані глибоко всередині файлів, щоб уникнути негайного виявлення”.
Бос Coinbase грязний за “божевільне” використання AI
Він прийшов після того, як генеральний директор Coinbase Брайан Армстронг заявив у середу, що AI написав до 40% свого коду і хоче розширити це до 50% наступного місяця, що спонукало до зворотного зв’язку.
“Це гігантський червоний прапор для будь -якого чутливого бізнесу”, – сказав децентралізований засновник Exchange Dango Ларрі Лю.
“Лідери програмних компаній: Не робіть цього. AI – це інструмент, але зобов’язання його використання на певному рівні є божевільним”, – сказав професор комп’ютерної науки Карнегі Меллон Джонатан Олдріч.”У мене немає інтересу до використання Coinbase, але навіть якби я це зробив, я, звичайно, не довіряв би йому своїми грошима, побачивши це”.
Керівник Delphi Consulting, Ashwath Balakrishnan, який називається цілям Coinbase “перформативною та розпливчастою”, і вона повинна зосередитись на “нових функціях та фіксації існуючих помилок”, в той час як давній біткойнер Алекс Пілж сказав, що обмін є головним зберігачем криптовалют, що “повинен пріоритетний безпеку”.
Coinbase використовує AI у “менш чутливих до даних”
Однак у своєму дописі Армстронг заявив, що код, що генерується AI, “потрібно переглянути та розуміти”, і не всі області обміну можуть використовувати його, але його слід використовувати “відповідально, наскільки ми можемо”.
Пов’язано: Злочинці “злом” з AI з AI на безпрецедентних рівнях: антропі
Повідомлення в блозі інженерної команди Coinbase заявив, що прийняття AI було найглибшим у командах, що працюють на інтерфейсах користувачів, та “менш чутливих до даних”, в той час як “складні та системні системи обміну” побачили повільне поглинання.
Команда додала, що використання AI для кодування “не є магічним блюдом, ми повинні очікувати, що команди загалом прийняли”.
Армстронг звільнив Дев, які тулили AI
Армстронг заявив, що в подкасті співзасновника Stripe Джон Коллісон минулого місяця він звільнив інженерів, які не пробували інструменти AI після того, як Coinbase придбав ліцензії на курсор та Github Copilot.
Він розповів, що йому сказали, що знадобиться місяці, щоб інженери користувалися AI, визнавши, що він “пішов на шахрай”, і сказав усім інженерам, що це обов’язково використовувати інструменти.
“Я сказав:” AI важливий, нам потрібно, щоб ви все це навчилися і принаймні на борту. Вам не доведеться користуватися ним щодня, поки ми не проводимо якусь тренування, але принаймні на борту до кінця тижня, і якщо ні, я проводжу зустріч у суботу з усіма, хто цього не зробив, і я хотів би зустрітися з вами, щоб зрозуміти, чому він “, – сказав він.
На зустрічі Армстронг сказав, що є кілька інженерів, які не використовували AI, і не представили вагомих причин, і “їх звільнили”, зізнавшись, що це “важкий підхід”, який “деяким людям справді не сподобався”.
AI Eye: Усі ненавидять GPT-5, AI показує, що соціальні медіа не можуть бути виправлені
