Незважаючи на “витончені” огородження, інфраструктурна фірма AI Antropic каже, що кіберзлочинці все ще знаходять способи зловживання його чат-чатами AI, щоб здійснити масштабні кібератаки.
У звіті про “розвідку про загрозу”, опублікованому в середу, члени команди розвідки про загрозу Antropic, включаючи Алекса Мойса, Кен Лебедєва та Джейкоба Кляйна, поділилися кількома справами, коли злочинці зловживали чатом Клода, з деякими нападами, які вимагали понад 500 000 доларів США.
Вони виявили, що чат був використаний не лише для надання технічних порад злочинцям, але й для безпосереднього виконання хаків від їх імені через “хакерство вібрації”, що дозволяє їм здійснювати атаки лише з базовими знаннями про кодування та шифрування.
У лютому фірма Blockchain Security Firm Blaightalysis Прогнозувала афери з криптовалютою може мати найбільший рік у 2025 році, оскільки генеративний ШІ зробив його більш масштабним та доступним для атак. Антропік знайшов одного хакера, який був “хакерством” з Клодом, щоб вкрасти конфіденційні дані щонайменше 17 організацій – включаючи охорону здоров’я, служби надзвичайних ситуацій, урядові та релігійні установи – з вимогами від RANSOM від 75 000 до 500 000 доларів у біткойні.
Хакер навчив Клод для оцінки викрадених фінансових записів, обчислити відповідні суми викупу та писати власні нотатки щодо викупу, щоб максимально психологічний тиск.
У той час як Анропік згодом заборонив нападника, інцидент відображає, як AI полегшує навіть кодерів найсвіжішого рівня здійснювати кіберзлочинність до “безпрецедентного ступеня”.
“Актори, які не можуть самостійно впроваджувати базове шифрування або розуміти механіку Syscall, тепер успішно створюють викупні програми з можливостями ухилення [та] впровадження методів антианалізу”.
Північнокорейські ІТ -робітники також використовували клід антропічного
Antropic також встановив, що Північнокорейські ІТ -працівники використовують Клод для підготовки переконливих ідентичностей, проходження технічних тестів на кодування та навіть захищають віддалені ролі в технологічних компаніях Fortune 500. Вони також використовували Клод для підготовки відповідей на співбесіду для цих ролей.
Клод також був використаний для проведення технічної роботи колись найнятий, сказав антропік, зазначивши, що схеми зайнятості були розроблені для прибутку в Північнокорейському режимі, незважаючи на міжнародні санкції.
На початку цього місяця Північнокорейський ІТ-працівник був протиставлений, де було встановлено, що команда з шести поділила щонайменше 31 підроблену ідентичність, отримуючи все, від урядового посвідчення та номерів телефонів до придбання LinkedIn та облікових записів, щоб замаскувати свої справжні особи та робочі місця за криптовалютою.
Пов’язано: Засновник Telegram Павло Дуров каже, що випадок нікуди не йде, ляскає французький уряд
Один із працівників, які нібито опитувались на повній позиції інженера в Polygon Labs, тоді як інші докази показали сценарії відповідей на співбесіду, в яких вони стверджували, що мають досвід роботи в NFT Marketplace OpenSea та Blockchain Oracle Provider Chainlink.
Antropic заявив, що його новий звіт спрямований на публічне обговорення випадків неправильного використання, щоб допомогти більш широкому співтовариству безпеки та безпеки AI та зміцнити захист ширшого галузі проти насильників AI.
У ньому сказано, що, незважаючи на впровадження “складних заходів безпеки та безпеки”, щоб запобігти неправильному використанню Клода, шкідливі суб’єкти продовжували знаходити шляхи навколо них.
