Австралийская технологическая фирма Apate задействует по всему миру огромное количество персонажей-ботов с искусственным интеллектом, которые играют роль доверчивых жертв мошенничества, чтобы каждый месяц тратить миллионы часов времени мошенников.
Забавно, но одним из ежемесячных показателей эффективности компании является то, сколько раз разочарованные мошенники ругаются на идиотских «жертв», которые притворяются глупыми и тянут их за собой.
«Я думаю, что мы единственная компания в мире, которая действительно учитывает в своих ключевых показателях эффективности количество слов на букву F, которые им бросают мошенники», — со смехом рассказывает журналу основатель Apate Дали Каафар.
У компании есть почти 200 000 персонажей с искусственным интеллектом, которые способны убедительно вести телефонные разговоры и общаться в социальных сетях и на платформах обмена сообщениями. «Я могу вам сказать, что мы, по сути, обслуживаем, как мы их называем, сотни тысяч звонков в день и почти сотни тысяч разговоров по другим каналам», — говорит он.
Каждый час времени мошенника, который они тратят впустую, — это еще один час, когда он не обманывает представителя общественности. За шесть недель до конца 2025 года боты Апате совершили 600 000 мошеннических звонков в адрес одной телекоммуникационной компании TPG в Австралии.
«По сути, мы потратили более пятисот дней времени мошенников», — объясняет он. «Это примерно соответствует экономии примерно тринадцати миллионов долларов».
Другая цель ботов — предоставить банкам и телекоммуникационным компаниям полезную информацию для борьбы с мошенническими сетями в Австралии, Азии, Африке, Великобритании и Европе.
Боты Apate борются с мошенниками через чат. Источник: Апате
Масштабная мошенническая травля жертв искусственного интеллекта
Каафар говорит, что эта идея пришла ему в голову, когда ему позвонили мошенники во время пикника с семьей в Сиднее еще в ноябре 2021 года.
К неудовольствию жены, но к радости детей, он держал мошенника на 44 минуте, притворяясь доверчивым грубияном, попавшимся на аферу.
«То, что последовало за этим, было буквально настоящим комедийным шоу для моих детей», — говорит он, добавляя, что во время разговора он также узнал много потенциально полезной информации о механике мошенничества и используемой тактике.
«Когда я повесил трубку, я помню, что очень ясно подумал: если бы я мог сделать это просто для развлечения, представьте, на что способны технологии в больших масштабах».
Работая в то время профессором в Университете Маккуори, он поделился этой идеей с некоторыми из своих докторантов, работающих над искусственным интеллектом и безопасностью.
«Я сказал: «Ребята, должен быть гораздо лучший способ сделать это. Давайте создадим что-то, что действительно автоматизирует весь этот процесс привлечения мошенников в большом масштабе, а также, что, возможно, самое главное, извлечет из этих разговоров все виды разведывательной информации». И именно так все и началось».
В течение нескольких месяцев они получили финансирование от Управления национальной разведки для исследования этой идеи, и в 2023 году проект был передан из университета в Апате. Сейчас компания работает с большинством крупных банков Австралии, а также с многочисленными банками в Великобритании, Южной Африке и Юго-Восточной Азии.
Apate — далеко не единственная компания-аферистка, которая травит мошенников с помощью ИИ-ботов, хотя они делают это в большем масштабе, чем большинство других. В прошлом году британская телекоммуникационная компания O2 запустила кампанию AI Granny, которая расстраивает мошенников, тратящих часы на разговоры о ее 28 кошках. Это была такая же рекламная кампания, призванная предупредить общественность об опасностях мошеннических звонков, как и все остальное.
Очень интересная AI Granny от O2. Источник: 02
Создание идеальных жертв ИИ
Apate запустила со 120 разными персонажами разных полов, возрастов и типов личности, а теперь у них 197 000 персонажей с узнаваемыми голосовыми тиками, акцентами, и они издают те же звуки, которые издают люди, когда пытаются придумать, что сказать.
«Мы потратили много времени на доработку и создание этих ботов с искусственным интеллектом, которые звучат точно так же, как вы, я и наши соседи», — говорит он.
Модели ИИ были обучены на «сотнях и сотнях» часов записанных разговоров между людьми-мошенниками и мошенниками, чтобы они могли применять контрстратегии.
«Они знают, что разговаривают с плохими парнями, если хотите, и действительно ведут разговор так, что это звучит очень, очень реалистично для любого мошенника, даже если мошенник скептически относится к вещам». Ботов рассылают в WhatsApp и Telegram, чтобы они служили приманкой для мошенников. Хотя старое клише о том, что честного человека невозможно обмануть, не соответствует действительности, все же вполне возможно эксплуатировать стремление мошенника к деньгам.
“На самом деле они киберпреступники. Я думаю, мы просто очень часто забываем, что это киберпреступники, которые пытаются завладеть сбережениями людей. И поэтому иногда этот элемент жадности также используется нашими ботами”.
Боты собирают ценную информацию о каждом мошенническом звонке
В криптовалютной индустрии Апате работает на «одного из лидеров в области анализа блокчейн», которым может быть, а может и не быть Chainaанализ. Они не заинтересованы в трате времени мошенников — им нужна информация о том, какие кошельки и методы используют мошенники, чтобы они могли отслеживать поток средств.
«Эти боты, участвуя в различных беседах, извлекают сотни и тысячи новых адресов криптовалютных кошельков», — говорит он. «Это данные и разведданные, которые поступают буквально до того, как будет нанесен ущерб».
Мошенничество — это большой бизнес, а колл-центры — это «в значительной степени корпоративные организации», — объясняет Каафар.
“Эти данные очень, очень важны, потому что, в буквальном смысле, это новая учетная запись или новый кошелек, на который вам действительно нужно обратить особое внимание. Потому что именно здесь эти… мошеннические соединения собирают свои деньги или свои средства”.
“Думайте об этом буквально как о том, что вы всегда опережаете тактику мошенника. И чем больше вы знаете, прежде чем деньги будут переведены, тем лучше”.
В июле боты Apate обнаружили рынок для брокеров, запрашивающих проверенные банковские счета в Индии, предлагая комиссионные в размере до 5% в долларах США с доходов от мошенничества, проходящих через счета.
Персонал Апате в Сиднее. Источник: Апате
Гонка вооружений ИИ между хорошими и плохими парнями
Мошенники все чаще сами используют ботов с искусственным интеллектом, и совсем скоро мошенники с искусственным интеллектом станут такими же повсеместными, как и спам-сообщения. Мошенничество с людьми — это бизнес стоимостью 1,24 триллиона долларов, поэтому отрасль может позволить себе вычислительные мощности, необходимые для масштабирования операций. Исследование Апате показывает, что от 20% до 30% мошеннических текстовых разговоров уже используют ИИ, но Каафар не слишком беспокоится о результате борьбы антимошеннических ботов с мошенническими ботами. Он говорит, что их исследователи считают, что боты ИИ, играющие в защиту, согласно теории игр, имеют преимущество, потому что они пытаются извлечь информацию, в то время как боты-мошенники пытаются заставить другого ИИ выполнить действие.
«Вы также можете математически продемонстрировать, что это выгодно защитнику, поскольку становится легче извлекать информацию из модели ИИ злоумышленника», — говорит он.
“Мы можем представить себе мир, в котором мошенники станут намного более изощренными и начнут использовать такие технологии. Но это также означает, что если они это сделают, то фактически будут считаться проигравшими, что является отличной новостью в борьбе с мошенничеством”.
