Кључне ствари које треба запамтити
- Преваре са клонирањем гласа користе напредну вештачку интелигенцију за стварање веродостојних реплика гласова, укључујући емоције и осећај хитног случаја.
- Преваранти пажљиво користе податке са друштвених мрежа како би конструисали убедљиве сценарије и злоупотребили личне везе.
- Неопходно је препознати знакове упозорења код ових превара са АИ клонирањем гласа; прекините сумњиве позиве и проверите поруке о наводној опасности.
Замислите касне сате. Ваши родитељи примају узнемирујућу гласовну поруку у којој се каже да сте у невољи, да вам је новчаник украден и да сте заглављени на непознатом месту. Порука захтева хитно слање новца како бисте могли да се вратите кући.
Глас који се чује је запањујуће реалан и звучи као глас њиховог детета, али то није ваш прави глас. То је у ствари АИ клон гласа и ваши родитељи су постали мета преваре која је истовремено најсавременија и забрињавајуће делотворна.
Како функционишу преваре са АИ клонирањем гласа?
Технологија клонирања гласа омогућава стварање изузетно реалистичних дигиталних копија нечијег гласа. Ова техника, позната и као аудио дипфејк, развијена је коришћењем АИ алата за клонирање гласа као што је ElevenLabs (погледајте пример клонирања гласа помоћу вештачке интелигенције испод). Комбиновањем генеративне вештачке интелигенције и синтезе говора, клонирани глас може имитирати емоције, нијансе, интонацију, па чак и осећај страха.
Као пример, можете послушати како Кристијан Коли звучи на подкасту „The Really Useful Podcast“.
За креирање АИ клона гласа потребан је само кратак узорак гласа, често само минут или мање. Узорци гласова се обично прикупљају са јавних објава на друштвеним мрежама, што чини видео блогере и инфлуенсере посебно рањивим, јер је квалитет звука њихових објава врло добар и лако доступан.
Када преваранти клонирају узорак гласа, користе технологију претварања текста у говор или чак говор у говор у реалном времену како би креирали лажне позиве и говорне поруке.
Након што приступе друштвеним мрежама жртве и прикупе њихове личне податке, преваранти стварају веродостојан сценарио. То може бити хоспитализација, хапшење, крађа, отмица – било која ситуација која изазива страх. Клонирани глас се затим користи да би се манипулисало чланом породице да поверује да је њихов вољени у великој опасности.
Реалност гласа и емоција, уз шок и хитност захтева, могу надјачати скептицизам, што може довести до исхитрених одлука о преносу новца или давању осетљивих информација.
Зашто су АИ преваре са клонирањем гласа тако ефикасне?
Попут већине превара које циљају породицу и пријатеље, и АИ преваре са клонирањем гласа су ефикасне јер користе личне везе. Паника која настаје када примите позив у помоћ од вољене особе може брзо замаглити расуђивање, што доводи до исхитрених одлука. То је иста тактика која се користи у преварама са брзим преварама, али ефекат се појачава ако чујете глас некога ко вам је близак.
Чланови породица оних који су веома присутни на друштвеним мрежама или оних који често путују су посебно рањиви јер њихове околности пружају убедљив контекст за измишљену причу преваранта. Преваранти често унапред прикупљају приватне податке својих циљева са њихових јавних профила на друштвеним мрежама, чинећи приче још убедљивијим.
Кључни знаци АИ преваре са клонираним гласом
Упркос њиховој софистицираности, АИ преваре са клонирањем гласа могу се открити на основу одређених знакова упозорења:
- Хитност: Преварант ће покушати да вас убеди да ће се догодити нешто страшно ако се одмах не предузме акција.
- Детаљи: Преваранти не познају увек читаву причу иза вашег односа са циљем, па обратите пажњу на било какве недоследности.
- Необични захтеви: Захтеви за пренос новца на иностране рачуне или плаћање у крипто-новчанику су уобичајене тактике.
Тешко је обратити пажњу на ове факторе када сте уплашени, али то може помоћи да не постанете жртва преваре.
Шта учинити ако сумњате на АИ превару са клонирањем гласа?
Ако примите позив или гласовну поруку од вољене особе у невољи, останите мирни. Преваранти се ослањају на то да ћете паничити и бити емоционални, јер то повећава вашу рањивост на њихове тактике.
Ако примите телефонски позив
Ако посумњате, чак и на секунд, да је позив можда превара са клонирањем гласа, одмах прекините везу. Немојте делити никакве информације и немојте комуницирати са преварантима. Уместо тога, позовите вољену особу на познати број да бисте потврдили аутентичност позива за помоћ.
Даљом комуникацијом са преварантима ризикујете да се ваш глас сними и клонира.
Ако примите гласовну поруку
Ако су преваранти оставили гласовну поруку, одмах сачувајте аудио на свом телефону или лаптопу. Овај узорак звука се може користити у алату за класификацију АИ говора да би се утврдило да ли је то људски глас. Ови АИ класификатори говора функционишу попут детектора писања помоћу вештачке интелигенције. Једноставно убаците аудио фајл и класификатор ће га означити као људски или генерисан вештачком интелигенцијом.
Сјајан алат за ову проверу је ElevenLabs класификатор говора. ElevenLabs је погон за већину платформи за клонирање вештачке интелигенције, што га чини идеалним алатом за проверу да ли је глас клониран. Ево како га можете користити да утврдите да ли је глас клониран вештачком интелигенцијом:
- Идите на ElevenLabs Speech Classifier.
- Отпремите узорак говорне поруке и кликните на „Откриј синтетизовани говор“.
У доњем примеру, човеку је снимљена узнемирујућа порука и отпремљена је у класификатор. Можете видети да је означено са 2% вероватноће да је манипулисано.
У следећем примеру, иста узнемирујућа порука је створена помоћу алата за клонирање гласа са вештачком интелигенцијом. Људском уху, гласови се не разликују. Међутим, алат је показао да је вероватноћа да је генерисан вештачком интелигенцијом 98%.
Иако не можете 100% да се ослоните на овај класификатор, он може потврдити ваше сумње да се користи клонирани глас. Такође, требало би да контактирате своју вољену особу на познати број да бисте потврдили.
Превенција је најбоља одбрана од АИ превара са клонирањем гласа
Понекад је најбоља одбрана од високотехнолошке преваре решење са ниском технологијом.
Договорите лозинку ван мреже, познату само вама и вашим најближима, са својом породицом и пријатељима. У случају позива у паници, коришћење ове лозинке може бити сигуран начин за потврду идентитета позиваоца.
На крају, држање ваших личних података ван друштвених мрежа је велики корак ка спречавању превараната да прикупе довољно информација за креирање убедљиве приче. Запамтите: ако не желите да то сви знају, најбоље је да то не делите на друштвеним мрежама.