Придуман робот, доводящий телефонных мошенников до бешенства

Как отмечают в банке "Тинькофф", средняя продолжительность разговоров роботов с мошенниками составляет 2-4 минуты, отдельные звонки могут длиться свыше 10 минут. Чем дольше злоумышленник "висит" на линии - тем меньшее число потенциальных жертв он успевает обзвонить за день. Это позволяет снизить число успешных атак, в ходе которых граждан вынуждают хитростью расстаться со своими накоплениями, зарплатами и пенсиями.

Разговоры мошенников с человекоподобными прототипами также позволяют собирать новые схемы и уловки злоумышленников для защиты абонентов и обновлять базу мошеннических телефонных номеров, во время звонков с которых защитник включает сценарии человекоподобных роботов. Для создания серии персонажей привлекались психологи и антифрод-эксперты, которые помогали разработать различные архетипы собеседников, к которым привыкли мошенники. Также при разработке сценариев реагирования на мошенников учитывались их типичные скрипты общения с жертвами.

В записи реплик человекоподобных роботов принимали участие сотрудники банка, а также профессиональные дикторы: Петр Гланц (голос Дэдпула в официальном дубляже) и Дарья Блохина.

"Мы уже давно заметили, что мошенники "раскусили" классических телефонных секретарей, которых стали разрабатывать крупные компании и экосистемы. Поэтому мы с помощью экспертов разработали серию персонажей на основе различных архетипов, знакомых мошенникам", - говорят в компании-разработчике.

Там отмечают, что персонажи создавались таким образом, чтобы походить на настоящих людей и "взламывать" скрипты, по которым работают мошенники. В большинстве таких структур разработаны схемы из десятков и сотен вариантов развития беседы и работы с возражениями, что фактически лишает жертву возможности выйти из разговора в рамках диалога. При этом некоторых персонажей делали намеренно грубоватыми для достижения максимально реалистичного эффекта. "Самое интересное, что в таких сценариях меняются роли, теперь добычей становятся сами мошенники. - Защитник Олег вынуждает их играть в свою игру, а не наоборот", - отмечают разработчики.

Среди персонажей, которых изображают роботы, - пожилой мужчина, который во время разговора ищет свои очки, молодая мама, которая пытается справиться с активным ребенком на детской площадке, мужчина, выгуливающий свою собаку в парке, раздраженный мужчина за рулем.

"Мошенники разговаривают с несколькими десятками людей в сутки. Получается, что за неделю это несколько сотен разговоров, несколько сотен голосов. И дальше, если эти роботы смогут варьировать голоса, истории, которые будут затягивать разговор с мошенником, если будет несколько сотен тысяч таких вариантов, то получается, что мошенник не сможет распознать, не сможет вспомнить голос, не сможет вспомнить вот такую же самую какую-нибудь феерическую историю, которую робот ему рассказывает. Получается, что при таком количестве вариативности распознать, что мошенник говорит с роботом, мошеннику будет тяжело", - говорит главный эксперт "Лаборатории Касперского" Сергей Голованов.

Для разработки роботов была создана специальная модель на базе искусственного интеллекта. Модель провела анализ 40 тыс. минут звонков мошенников, а также скрипты их разговоров, фразы-триггеры, после которых злоумышленники готовы продолжить разговор, и эмоциональную реакцию мошенников на разные сценарии событий. На основе собранного массива данных с участием экспертов-психологов были созданы роботы-персонажи, каждый из которых обладает своим характером и специально разработанными речевыми уловками по удержанию мошенника на линии.

Во время разговора роботы реагируют на триггерные фразы и в зависимости от этого включают нужный сценарий разговора. Например: переспрашивают информацию, отвлекаются на внешние события, роботы также могут якобы позвать для участия в разговоре стороннего человека, усомниться в честности собеседника или задавать дурацкие вопросы.

Исследование Group4media, опубликованное еще в октябре 2022 г., показало: 63% жителей России хотя бы один раз за предыдущие полгода пользовались голосовым помощником. Чаще всего взаимодействие с ассистентом происходит через смартфон. По оценкам Just AI, объем российского рынка разговорного искусственного интеллекта в 2020 г. составлял всего $76 млн, или 5,5 млрд руб. При этом к 2025 г. отечественный рынок достигнет $561 млн, эту сумму заработают внешние вендоры голосовых помощников. Совокупный среднегодовой темп роста этого рынка в 2021-2025 гг. составит от 38 до 81%.

Как это работает

Мошенник: Анастасия Эдуардовна?

Робот: Сейчас, секундочку. Извините, пожалуйста. Дима, Дим! Вылези, пожалуйста, из ракеты, я тебя прошу. Ладно, все, бегай так, чтобы я тебя видела.

Мошенник: Анастасия Эдуардовна.

Робот: Так, и че?

Мошенник: Полиция вас беспокоит, главное управление МВД. Капитан полиции Домышев Денис Владимирович. Обращаю также внимание, наш диалог ведется под запись и будет прикреплен к материалам уголовного производства. Смотрите, нам поступило заявление.

Робот: Пипец, конечно, и че дальше с этим делать?

Мошенник: Поступило заявление от Центрального банка по статье мошенничество совершенное.

Робот: Вы что, дебил? Мужчина, уберите свою собаку, вы ее на детскую площадку привели. Тут маленькие дети играют. Идите, своего цербера на привязи держите.

Мошенник: Вы кому сказали "дебил", мне?

Робот: Алло, да, извините. Давайте с самого начала по порядку, ладно?

Мошенник: Поступило заявление от Центрального банка по статье 159, мошенничество.

Робот: Так, ну и что, вы сами ничего не можете с этим сделать? У вас же голова и руки есть!

Мошенник: Мы понятия не имеем, откуда идет утечка персональных данных. Кто в этом замешан. Поэтому нам необходимо...

Робот: Знаете что, я вообще не буду напрягаться. Вы мне позвонили, вам это надо, вы и давайте делайте что-нибудь. Я жду как бы.

Мошенник: Я вам позвонил, чтобы провести акт дознания...

Робот: Ну и куда ты сел?

Мошенник: То есть слать общую информацию.

Робот: Штаны от песка тоже будешь сам отстирывать? Давай вставай быстро.

Мошенник: Вы сейчас находитесь...

Робот: Так, ну а вы где сидите? Все давай, у меня тут сын хочет кое-что тебе передать.

Жулик, не воруй.

Мошенник: Это кто сейчас со мной говорит?

Робот: Алло.

Мошенник: Я слышу иронию в вашем голосе и в ваших действиях.

ДИАЛОГ 2

Робот: Служба моральной поддержки. Че тебе нужно?

Мошенник: Наталья Викторовна, здравствуйте. Полиция вас беспокоит, главное управление МВД. Капитан полиции Карш Андрей Валерьевич. Связываю...

Робот: А я - полковник-мухомор!

Мошенник: Ставлю вас в известность, что наш разговор далее будет записываться.

Робот: Твое дело, извращенец ты такой.

Мошенник: Вы там со мной шутки шутить думаете, Наталья Викторовна?

Робот: Погоди-ка секунду. Говори, где вы с дружками запрятали чемодан с криптой. У тебя пять минут вспомнить, пока я собираю шмотки.

Мошенник: Наталья Викторовна.

Наталья Викторовна, вас полиция беспокоит. Вы понимаете, с кем вы разговариваете?

Робот: Я вернулся. Мочи, че хотел.

Мошенник: Наталья Викторовна.

Робот: Так, это взял. Извини, отвлекся. Можешь повторить?

Мошенник: Наталья Викторовна, вы знаете, с кем вы разговариваете?

Робот: Со мной. Ты в темноте, что ли, номер набирал?

Мошенник: Наталья Викторовна.

Робот: Так, а дальше?

Мошенник: Я могу расценивать ваше поведение как факт того, что вы намеренно мешаете следствию.

Робот: Эй, ты что вытворяешь? Сиди смирно и хорош мычать. Это я не тебе. Все, я тут.

Первое время

По данным платформы безопасности "Тинькофф Защита", первые 5-7 минут разговора со злоумышленниками являются наиболее опасными. В среднем именно столько времени мошенникам требуется, чтобы втереться в доверие жертвы и потом убедить ее передать номера карт, коды из СМС, установить вредоносные программы и осуществить другие необходимые действия для продолжения мошеннического сценария, например, увести абонента в мессенджер.

"Мы не просто делали персонажей, но и писали диалоги с редакторами по законам драмы: завязка/рост/кульминация/концовка. Мы хотели, чтобы для пользователя это была маленькая увлекательная история, а у истории должна быть сочная развязка, иначе не случится катарсис по классическим законам драматургии", - поясняют разработчики.

Источник: "Российская газета"

Изображение размещено из открытых источников