Австралійська технічна фірма Apate розгортає в усьому світі величезну кількість персонажів ШІ-ботів, які грають роль довірливих жертв шахраїв, щоб щомісяця витрачати мільйони годин часу шахраїв.
Цікаво, що один із щомісячних показників ефективності компанії — це те, скільки разів розчаровані шахраї лаються на «жертв» ідіотів, які прикидаються дурнями та підривають їх.
«Я думаю, що ми єдина компанія в світі, яка фактично зберігає в своїх KPI кількість слів на букву «Б», які кидають їм шахраї», — сміючись, розповідає Magazine засновник Apate Далі Каафар.
Компанія має майже 200 000 персонажів ШІ, які здатні вести переконливі телефонні розмови та спілкуватися в соціальних мережах і на платформах обміну повідомленнями. «Я можу вам сказати, що ми фактично обслуговуємо, як ми їх називаємо, сотні тисяч дзвінків на день і майже сотні тисяч розмов на інших каналах», — каже він.
Кожна година часу шахраїв, яку вони витрачають, — це ще одна година, на яку вони не обманюють представника громадськості. За шість тижнів до кінця 2025 року боти Apate здійснили 600 000 шахрайських викликів для однієї телекомунікаційної компанії під назвою TPG в Австралії.
«По суті, ми витратили більше п’ятисот днів часу шахраїв, — пояснює він. «Це приблизно дорівнює десь близько тринадцяти мільйонів доларів, які можна заощадити».
Іншою метою ботів є отримання оперативної інформації для банків і телекомунікаційних компаній для боротьби з групами шахраїв в Австралії, Азії, Африці, Великобританії та Європі.
Боти Apate мають справу з шахраями через чат. Джерело: Apate
Масштабне цькування жертв ШІ
Каафар каже, що ця ідея прийшла йому в голову, коли він отримав шахрайський дзвінок під час пікніка з родиною в Сіднеї в листопаді 2021 року.
На роздратування дружини, але на радість своїх дітей, він 44 хвилини тримав шахрая, прикидаючись довірливим рубаном, який попався на аферу.
«Послідувало справді повне комедійне шоу для моїх дітей», — каже він, додаючи, що під час розмови він також дізнався багато потенційно корисної інформації про механізми шахрайства та використані тактики.
«Коли я поклав трубку, я пам’ятаю, що дуже чітко подумав: якби я міг зробити це просто для розваги, уявіть, що технологія може зробити в масштабі».
Працюючи в той час професором в університеті Маккуорі, він порушив цю ідею з декількома своїми докторантами, які працювали над ШІ та безпекою.
“Я сказав: “Хлопці, має бути набагато кращий спосіб зробити це. Давайте створимо щось, що дійсно автоматизує весь цей процес залучення шахраїв у масштабі, але також, що, мабуть, найважливіше, витягує всіляку інформацію з цих розмов”. І буквально так все почалося».
Протягом кількох місяців вони отримали фінансування від Управління національної розвідки для дослідження ідеї, і проект був виділений з університету в Апате в 2023 році. Зараз компанія працює з більшістю великих банків Австралії, а також з багатьма банками у Великобританії, Південній Африці та Південно-Східній Азії.
Apate — далеко не єдина аферистська компанія, яка переманює шахраїв за допомогою ШІ-ботів — хоча вони роблять це в більших масштабах, ніж більшість. Минулого року британська телекомунікаційна компанія O2 запустила кампанію AI Granny, яка розчаровує шахраїв, забираючи години їхнього часу на розмови про її 28 котів. Це була така ж рекламна кампанія, щоб попередити громадськість про небезпеку шахрайських дзвінків, як і будь-що інше.
Дуже цікава AI Granny від O2. Джерело: 02
Створення ідеальних жертв ШІ
Apate запустив із 120 різними персонажами різної статі, віку та типів особистості, і тепер має 197 000 персонажів із впізнаваними голосовими тиками, акцентами, і вони видають ті самі звуки, що й люди, коли намагаються придумати, що сказати.
«Ми витратили багато часу на вдосконалення та створення цих ботів зі штучним інтелектом, які звучать точно так, як ми з вами та наші сусіди», — каже він.
Моделі штучного інтелекту були навчені на «сотнях і сотнях» годин записаних розмов між людьми, які цькують шахраїв, і шахраями, щоб вони могли застосовувати контрстратегії.
«Вони знають, що спілкуються з поганими хлопцями, якщо хочете, і справді орієнтуються в розмові так, щоб вона звучала справді дуже, дуже реалістично для будь-якого шахрая, навіть якщо шахрай ставиться до речей скептично». Ботів надсилають у WhatsApp і Telegram, щоб діяти як приманки для шахраїв. Хоча старе кліше про те, що чесну людину не можна обдурити, не відповідає дійсності, все ж цілком можливо використати прагнення шахрая до грошей.
“Насправді вони кіберзлочинці. Я думаю, що ми просто дуже часто забуваємо, що вони кіберзлочинці, які намагаються отримати людські заощадження. Тож цей елемент жадібності іноді також використовують наші боти”.
Боти збирають цінну інформацію з кожного шахрайського виклику
У індустрії криптовалют Apate працює на «одного з лідерів аналізу блокчейнів», яким може бути або не бути Chainalysis. Їм не цікаво витрачати час шахраїв — їм потрібна інформація про те, які гаманці та методи використовують шахраї, щоб вони могли відстежувати потік коштів.
«Ці боти, вступаючи в різні розмови, витягують нові адреси криптовалютних гаманців сотнями й тисячами», — каже він. «Це дані та розвідка, які надходять буквально до того, як вони завдадуть шкоди».
Шахрайство — це великий бізнес, а кол-центри — це «в основному корпоративні організації», — пояснює Каафар.
“Ці дані дуже, дуже важливі, тому що, буквально, це новий обліковий запис або новий гаманець, на який вам справді потрібно звернути особливу увагу. Тому що саме тут ці… шахраї збирають свої гроші або кошти”.
“Думайте про це буквально як про те, щоб завжди випереджати тактику шахраїв. І чим більше ви знаєте до того, як гроші будуть перераховані, тим краще”.
У липні боти Apate виявили ринок для брокерів, які вимагають підтверджені банківські рахунки в Індії, пропонуючи комісійні до 5% у доларах США від доходів від шахрайства, що проходять через рахунки.
Людський персонал Apate в Сіднеї. Джерело: Apate
ШІ-гонка озброєнь між хорошими і поганими хлопцями
Шахраї все частіше використовують ботів зі штучним інтелектом, і невдовзі шахраї зі штучним інтелектом стануть такими ж повсюдними, як спам. Шахрайство людей — це бізнес на 1,24 трильйона доларів, тому галузь може дозволити собі обчислення, необхідні для розширення операцій. Дослідження Апате показують, що приблизно від 20% до 30% розмов із шахрайськими текстовими повідомленнями вже використовується штучний інтелект, але Каафара не надто хвилює результат боротьби ботів для боротьби з шахраями. Він каже, що їхні дослідники вважають, що ШІ-боти, які грають у захист, мають перевагу, згідно з теорією ігор, тому що вони намагаються отримати інтелект, тоді як шахрайські боти намагаються змусити інший ШІ виконати дію.
«Ви також можете математично продемонструвати, що це на користь захисника, оскільки стає легше витягувати інформацію з моделі ШІ зловмисника», — каже він.
“Ми можемо уявити собі світ, де шахраї стають набагато витонченішими та впроваджують таку технологію. Але це також означає, що якщо вони це зроблять, вони фактично програють гру, що є чудовою новиною у боротьбі з шахрайством”.
