Искусственный интеллект всё чаще используют не только для создания мошеннических схем, но и для борьбы с ними. Австралийские ИИ-бабушки часами разговаривают с аферистами, британские цифровые двойники внедряются в мошеннические сети, а специальные программы пытаются распознать поддельный голос родственника или остановить подозрительный банковский перевод. Вокруг борьбы с телефонным и финансовым мошенничеством формируется целая технологическая индустрия.
Pogiba Alexandra/news.ru/Global Look Press
Первой громкой историей стали виртуальные пенсионерки австралийского стартапа. Компания создала тысячи искусственных собеседников, которые притворяются потенциальными жертвами мошенников. Они отвечают на подозрительные звонки, переписываются с аферистами, переходят по фишинговым ссылкам и могут часами изображать людей, которые не слишком хорошо разбираются в технологиях.
Пока преступник пытается убедить очередную «бабушку» перевести деньги или назвать код из сообщения, ИИ собирает сведения о его деятельности: номера телефонов, банковские реквизиты, адреса криптокошельков и поддельные сайты.
По данным компании, её боты провели уже 2,5 млн разговоров с предполагаемыми мошенниками, суммарно отняв у них 17 лет времени. Компания также сообщила, что один из её клиентов — австралийский банк Commonwealth Bank — зафиксировал снижение публично заявленных потерь от мошенничества на 76%.
Но виртуальные бабушки — только один из вариантов применения ИИ в этой борьбе.
Британские «медовые ловушки» для аферистов
Похожую стратегию использует одна из лондонских компаний. Её разработчики называют своих искусственных собеседников honeybots — «медовыми ботами», по аналогии с цифровыми ловушками для злоумышленников.
Принцип тот же: ИИ создаёт правдоподобную личность и вступает в контакт с преступниками, которые рассчитывают получить деньги от доверчивого человека. Однако их задача — не просто задержать мошенника на линии, а выяснить, как устроена его финансовая инфраструктура.
Боты взаимодействуют с аферистами в интернете, выявляют счета, через которые проходят украденные деньги, и передают полученные сведения финансовым организациям. Особое внимание уделяется так называемым денежным мулам — людям, чьи банковские счета используются для перевода и обналичивания преступных доходов.
По информации самой компании, они постоянно отслеживает мошеннические приманки в интернете, а затем направляет к ним искусственных персонажей. Полученные сведения поступают банкам и платёжным организациям, которые могут использовать их для блокировки подозрительных операций.
В отличие от обычных систем защиты, которые часто реагируют уже на подозрительный перевод, эта компания пытается обнаружить участников мошеннической схемы ещё до того, как деньги попадут на их счета.
ИИ-детективы следят за банковскими переводами
Другая группа разработчиков сосредоточилась не на разговорах с преступниками, а на поведении банковских счетов и самих клиентов.
Например, одна из американских компаний разрабатывает систему, которая анализирует финансовые операции и пытается выявлять подозрительные счета еще до совершения перевода. Особый интерес для нее представляют все те же посредники, через которых мошенники перемещают средства. Иногда их владельцы сами становятся жертвами обмана: например, человек соглашается принять деньги на карту и перевести их дальше, не понимая, что участвует в преступной схеме.
Платформа объединяет сведения о счетах и финансовых операциях, оценивает риски и помогает банкам выявлять подозрительную активность. Идея заключается в том, чтобы обнаружить признаки мошенничества до того, как клиент потеряет деньги.
Британская компания из этой же плеяды борцов с мошенниками работает непосредственно с процессом платежа. Её технологии помогают банкам оценивать риск подозрительной транзакции в реальном времени. Если операция выглядит опасной, система может обратить на неё внимание сотрудников банка или инициировать дополнительную проверку. При этом задача разработчиков — не блокировать все необычные переводы подряд, а отличать настоящую мошенническую схему от вполне законной операции.
Кто на самом деле говорит по телефону?
Отдельное направление — борьба с поддельными голосами и видеозаписями. С развитием генеративных нейросетей мошенникам стало проще имитировать речь родственников, руководителей компаний и сотрудников банков. Человек может услышать знакомый голос и поверить, что близкий действительно попал в беду.
Американская компания разрабатывает инструменты для обнаружения искусственно созданных или изменённых аудио-, видео- и фотоматериалов. Её технологии предназначены прежде всего для организаций, которым необходимо проверять подлинность материалов и голосовых обращений перед принятием важных решений.
В частности, система может анализировать аудио во время телефонного разговора или видеоконференции и выявлять признаки синтетической речи. Это особенно актуально для банков и компаний, где голосовое распоряжение или видеозвонок могут использоваться для подтверждения личности.
Другой пример — компания, которая занимается защитой телефонных звонков. Её системы анализируют номера, содержание разговора и особенности голоса, чтобы выявлять спам, мошеннические звонки и признаки искусственной речи.
В отличие от сервисов, которые просто показывают, кто звонит, эта компания предлагает анализировать и сам разговор. Это позволяет попытаться обнаружить мошеннический сценарий уже после того, как человек поднял трубку.
Нидерландцы проверяют, настоящее ли перед ними лицо
Своё направление развивает и нидерландская компания, возникшая из университетского проекта Делфтского технического университета.
Она занимается выявлением поддельных изображений, видео и других цифровых материалов. Такие технологии востребованы не только в борьбе с мошенничеством, но и при проверке личности клиентов банков, удалённой идентификации и расследовании случаев подмены личности.
По данным Делфтского университета, разработка выполняет около 50 млн проверок в год для банковского сектора. Среди организаций, использующих технологию для проверки подлинности цифровых материалов, университет называет FBI и The New York Times.ИИ ответит за всех
Есть разработки, рассчитанные непосредственно на обычных пользователей, а не только на банки и государственные структуры.
Например, один из сервисов предлагает виртуальную помощницу, которая отвечает на незнакомые звонки, выясняет цель обращения и анализирует сказанное. Если система распознает признаки мошеннического сценария, она может завершить разговор и предупредить владельца телефона.
Разработчики предусмотрели и семейный режим: пользователь может подключить телефоны родителей или других близких и получать уведомления о подозрительных звонках.
В качестве примера компания приводит распространённую схему, когда неизвестный человек звонит пожилому родственнику и представляется внуком, якобы попавшим в аварию или оказавшимся в полицейском участке. В такой ситуации ИИ должен распознать характерные признаки обмана и не дать разговору продолжиться.
Однако создатели сервиса отдельно предупреждают: технология не гарантирует обнаружение каждого мошенничества и может ошибочно классифицировать обычный звонок.
Кто кого перехитрит?
У всех этих проектов разные задачи. Одни пытаются заставить преступника раскрыть собственные схемы, другие ищут подозрительные счета, третьи проверяют подлинность голоса и изображения, а четвёртые защищают человека непосредственно во время телефонного разговора.
Общее у них одно: борьба с мошенничеством постепенно перемещается из области простого блокирования подозрительных номеров в область анализа поведения, общения и финансовых связей.
И здесь возникает своеобразная технологическая гонка. Мошенники используют нейросети, чтобы убедительнее изображать родственников, сотрудников банков и представителей государственных служб. Разработчики систем защиты отвечают собственными нейросетями, которые учатся распознавать обман, вступать в контакт с преступниками и собирать информацию об их деятельности.
Пожалуй, самое необычное в этой истории — то, что теперь телефонный мошенник тоже не может быть уверен, кто находится на другом конце провода. Возможно, вместо доверчивой пенсионерки его уже слушает искусственный интеллект.
