На жителей Австралии, пишет The Sidney Morning Herald (источник), нацелена новая волна технологий, позволяющая мошенникам использовать искусственный интеллект, чтобы имитировать голоса близких.
Нина Меррилиз, проживающие на границе штатов Новый Южный Уэльс и Виктория, рассказала, что ее дочь находится за границей уже семь лет и она «постоянно ломала свой телефон или теряла его».
«Получить сообщение вроде «Привет, мама, мой телефон потерялся, это мой новый номер» – таких случаев за эти годы у нас было немало», — сказала Меррилиз.
Поэтому получив голосовое сообщение в WhatsApp от своей дочери о том, что она сломала свой телефон, Меррилиз быстро откликнулась на призыв о помощи и перевела более 11 000 австралийских долларов на счета, которые считала принадлежащими своему ребенку. Так она оказалась в числе десятков тысяч австралийцев, ежегодно теряющих миллиарды долларов из-за мошенников.
ИИ на службе мошенников
В новой мошеннической схеме преступники используют искусственный интеллект, чтобы звучать, как расстроенные члены семей своих жертв, будто бы нуждающиеся в быстром получении тысяч долларов наличными. Современные достижения в области ИИ позволяют мошенникам без труда имитировать нужный голос, имея его звуковой образец, состоящий всего из нескольких предложений. С помощью созданной ИИ голосовой матрицы мошенник «произносит» слова, набирая их на компьютере.
Стефани Тонкин (на фото выше), исполнительный директор австралийского «Центра защиты прав потребителей» (CALC) отметила, что имитация голоса является примером того, насколько изощренной стала мошенническая технология.
«Это совершенно новая волна технологий, и мошенники заинтересованы в том, чтобы продолжать развиваться в своем деле», — заявила она. «Мы ожидаем, что развитие этих технологий продолжится и количество краж только возрастет. В этом мошенники обходят нас».
«Необходимо, чтобы наши учреждения, располагающие некоторым контролем и надзором, были столь же инновационными в защите своих клиентов».
Согласно «Вашингтон Пост», недавно в Канаде бабушка получила звонок от внука, сообщившего, что он находится в тюрьме и ему нужны деньги для внесения залога. Женщина и ее муж перевели мошеннику 3000 канадских долларов узнав позже, что голос внука был подделан. В банке им сообщили, что у них есть еще один клиент, который был обманут таким же образом.
Подлая технология
Нина Меррилиз (на фото) считает, что использование ИИ для имитации голоса близких является чем-то «действительно пугающим».
В ее случае после того, как женщина ответила на сообщение «дочери» о сломанном телефоне, она получила новое голосовое сообщение, в котором сообщалось, что дочь будет какое-то настраивать новый телефон, а также она не сможет разговаривать, пока находится на работе.
Затем у Меррилиз попросили сделать некоторые платежи, поскольку они были очень срочными, но «дочь» не произвести их самостоятельно, поскольку были сложности с оформлением банковского перевода на новом телефоне. Женщина произвела три платежа по просьбе «дочери»: сначала 3450 австралийских долларов, затем 3800 долларов, а после 4350 долларов. Всего она потратила на мошенников 11 600 долларов.
«Она купила щенка золотистого ретривера, и я подумал, что им, очевидно, нужно заплатить за собаку, потому что они забирают ее на следующей неделе», — сказала Нина Меррилиз.
Сделав третий платеж, женщина спросил, для чего эти деньги. Когда ответом было «новая мебель», она почувствовал себя неуверенно.
«Я написал дочери по электронной почте, она перезвонила мне со своего старого номера и тогда мне стало физически плохо», — продолжила Меррилиз. Она связалась со своим банком, но там ей ответили, что нет никаких гарантий на возврат денег, поскольку она переводила все суммы самостоятельно.
Руководители CALC настаивают, чтобы австралийские власти обязали банки возмещать ущерб жертвам мошенничества, поскольку так у них будет больший стимул вкладывать средства в защиту от мошенничества. «У банков есть ресурсы, и они обязаны значительно увеличить свои инвестиции в технологии для сдерживания мошенников», — заявила Стефани Тонкин.
Австралийский министр финансовых услуг Стивен Джонс отметил, что он не полностью поддерживает принуждение банков к возмещению утраченных денег всем жертвам мошенничеств, поскольку это может создать «приманку для мошенников».
Представитель «Австралийской банковской ассоциации» сообщила, что их специалисты разрабатывают общеотраслевую позицию в отношении потерь клиентов в результате мошенничества. Она добавила, что имитация голоса при помощи ИИ является новым примером того, как «быстро развиваются» методы мошенничества.
По данным «Австралийской комиссии по конкуренции и защите прав потребителей» (ACCC), только за 2022 год австралийцы потеряли 4 миллиарда долларов в результате мошенничества. Ее представитель заявила, что служба ACCC Scamwatch отмечает растущую изощренность мошенничеств и «осведомлена о рисках, которые представляет ИИ».