Аудиомошенничество, или как преступники используют искусственный интеллект

Мир становится все более цифровым, а вместе с ним и более уязвимым для мошенников. Одним из них современных способов обмана являются так называемые дипфейки (deepfake), то есть «глубокая подделка». Их технология существует уже несколько лет и произвела фурор в индустрии развлечений. Но по мере развития технологий менялись и способы их использования в злонамеренных целях, сообщает Euronews.

Тысячи людей по всему миру стали жертвами мошенников. Им, как правило, звонил любимый человек, родитель, ребенок или друг детства, который умолял немедленно отправить деньги. В итоге оказывалось, что их обманули, голос был поддельным, созданным с помощью искусственного интеллекта (ИИ). В 2022 году с помощью смоделированных голосов мошенники обманули людей примерно на 11 млн долларов.

Что такое аудиодипфейк?

За небольшую сумму мошенники заказывают в IT-компаниях высококачественные голосовые клоны, которые могут быть достаточно убедительными, чтобы кого-то обмануть. Один из недавних примеров – поддельный голос британской актрисы Эммы Уотсон, якобы читающей книгу «Майн кампф» Гитлера, или видеоимитация актера Леонардо Ди Каприо, выступающего в ООН.

Подобные действия беспокоят многих экспертов. Во-первых, эту технологию можно использовать для дезинформации; например, позволяя людям поверить, что некий политик сделал шокирующее заявление, которого он никогда не делал. Во-вторых, таким образом можно обманывать людей. В октябре 2021 года произошло ограбление банка на 35 млн долларов, после того как голос директора компании подтвердил электронные письма и санкционировал перевод денег. Юрист, нанятый для координации процедур, посчитал, что все законно, и начал осуществлять переводы.

Что делать, чтобы не быть обманутым?

«Мошенникам не нужно много слов, чтобы сделать довольно хорошее воспроизведение голоса. Они просто звонят вам, притворяясь продавцами, и захватывают ровно столько звука, сколько нужно, чтобы заставить его работать. Это все, что им нужно, чтобы кого-то одурачить», – сказал заведующий кафедрой компьютерных наук в технологическом институте Рочестера Мэтью Райт.

Прежде всего, эксперты советуют помнить, чем на самом деле могут быть неожиданные и срочные звонки с просьбами о переводе или передаче денег от кого-либо из близких или с работы. Нужно задать им несколько личных вопросов, чтобы подтвердить личность, или перейти к видеовызову. В любом случае нужно подумать, как можно проверить звонок, чтобы убедиться, что разговор идет с реальным человеком, а не с поддельным голосом.

«Нужно попробовать использовать другой источник, другой канал связи. Придумайте оправдание и скажите, что вы должны перезвонить. Затем перезвоните по известному вам номеру», – сказал Райт.

Если кто-то звонит и утверждает, что он представляет ваш банк, повесьте трубку и позвоните напрямую в банк, чтобы подтвердить законность звонка. Будьте осторожны с личной информацией, такой как номер социального страхования, домашний адрес, дата рождения, номер телефона и даже имена ваших детей и домашних животных. Мошенники могут использовать эту информацию, выдавая себя за вас.