Нов начин на измама – вештачка интелигенција која имитира глас

Криминалци и измамници пронајдоа нов начин да изнудат пари од жртви користејќи ги последните трендови – вештачка интелигенција. Испраќаат гласовни пораки генерирани од вештачка интелигенција тренирана на гласовите на членовите на семејството. Жртвите кои се измамени исплаќаат илјадници долари. Најтешкиот дел од измамата е да дојдат до доволно голем сет на податоци на кој може да се тренира моделот. Податоците во случајот се аудио записи со чија помош потоа вештачката интелигенција се тренира да звучи како член на семејството или колега од бизнисот. Најчесто, измамниците се јавуваат на телефон и се преправаат дека се член на семејството во неволја на кој му треба поголема сума на пари. Во време на друштвени мрежи и експанзијата на ТикТок аудио од гласовите не е баш премногу тешко да се пронајде.

Измамата е толку честа во последно време во САД и Канада, што дел од банките веќе започнале да ја препознаваат. Една ситуација која медиумите ја споделуваат е за Рут Кард од Канада, која неодамна на телефон разговараше со својот внук Брендон. Брендон бил во притвор без новчаник и телефон и за кауција му биле потребни пари. Рут и нејзиниот сопруг веднаш отишле до банката и извадиле 3.000 канадски долари, колку што е дневниот лимит. Се упатиле до втора филијала на банката да извадат уште пари, но менаџерот на банката ги известил дека на телефон не е нивниот внук, и дека не се прва жртва на ваква измама, пренесува Washington Post.

Најчесто жртви на овие измами се возрасните граѓани на кои измамниците им се јавуваат како членови на семејството. Вештачката интелигенција го олеснува имитирањето на гласовите, а покрај широката достапност технологијата е лесна и едноставна за користење. Овие измами во кои со помош на вештачка интелигенција се генерира глас не се нови. Во 2019 од британска енергетска компанија со помош на софтвер за имитирање глас се украдени 240.000 долари. Во август 2019 директорот на компанијата откако зборувал со својот претпоставен ги префрлил парите кај унгарски добавувач. Претпоставениот во овој разговор рекол дека плаќањето мора да се направи итно и да биде завршено во следниот час. Сепак, директорот на компанијата зборувал со вештачка интелигенција која ги имитирала гласот, а тој воопшто не забележал – гласот на соговорникот го имал и германскиот акцент на претпоставениот.

Во 2020 менаџер на банка во Хонгконг добил телефонски повик од глас кој добро го познавал – директор на компанија со која веќе зборувал. Директорот му пренел добри вести – „компанијата се подготвува за аквизиција и треба да се префрлат 35 милиони долари“. Измамата е малку пософистицирана, па во неа се вклучени и имејл пораки со адвокат кој требал да ги координира процедурите во соработка со менаџерот на банката. Менаџерот на банката немал никаква причина да се сомнева и започнал да ги прави трансакциите. Она што не го знаел во моментот е дека измамниците користеле „deep voice“ технологија да го имитираат гласот на директорот. Истрагата на Обединетите Арапски Емирати открила дека станува збор за комплексна измама во која се вклучени над 17 лица, пренесе Forbes.

Измамите преку телефон во 2022 во САД во околу 5100 случаи предизвикале штета од над 11 милиони долари. Иако не се новитет, рекреирањето на гласови со помош на вештачка интелигенција значително го отежнува препознавањето. Измамниците можат да креираат доволно добри копии на гласовите со само неколку изговорени реченици. Потоа измамникот може да ја користи технологијата да изговори што сака.

„Вештачката интелигенција за генерирање на глас анализира сѐ што го прави гласот уникатен – вклучувајќи ја возраста, полот, акцентот – потоа пребарува низ базите на податоци за да пронајде сличен глас, и ги предвидува шемите (patterns).

Може да ре-креира висина на тон, боја на глас, и индивидуални звуци кои ги прави личноста, за да креира сличен вкупен ефект. За ова е потребен краток аудио семпл, кој може да се пронајде на YouTube, подкасти, реклами, TikTok, Instagram или Facebook видео.

Пред две години, па дури и пред една година, беше потребно многу аудио за да се клонира гласот на личноста. Денес, ако имате Facebook-страница или ако сте снимиле TikTok видео со 30 секунди аудио, луѓе може да го клонираат вашиот глас.“, вели Хани Фарид, професор по дигитална форензика на Беркли.