Ved svindel med AI-stemmekloning og falske nødsituationer i familien kan den, der ringer, lyde præcis som en af dine nærmeste. Ifølge FTC behøver en svindler kun et kort lydklip af et familiemedlems stemme og et program til stemmekloning. Fordi stemmen kan kopieres, er det ikke nok at lytte efter, hvordan personen lyder. Man må også se på, hvad den, der ringer, beder om, og hvordan der bliver spurgt. Denne gennemgang viser, hvad de officielle kilder siger, holder vores egen fortolkning adskilt og gør klart, hvor dokumentationen slutter.
Sådan bruges AI-stemmekloning i svindel med falske nødsituationer
FTC's forbrugeradvarsel om AI og svindel med falske nødsituationer i familien beskriver, hvad en svindler skal bruge for at klone en stemme: et kort lydklip af et familiemedlems stemme, som kan stamme fra indhold lagt ud på nettet, og et program til stemmekloning.
IC3's offentlige meddelelse om generativ AI og svindel peger på noget mere generelt: Generativ AI mindsker den tid og indsats, kriminelle skal bruge på at narre deres ofre.
Hvad kilderne siger:
- Et kort lydklip og et program til stemmekloning er nok til at klone et familiemedlems stemme.
- Lydklippet kan stamme fra indhold, der er lagt ud på nettet.
- Generativ AI mindsker den tid og indsats, kriminelle skal bruge på at narre deres ofre.
Vores fortolkning: Hvis en stemme kan klones ud fra et kort klip, beviser en velkendt stemme i røret ikke i sig selv, hvem der ringer. Kilderne, der henvises til her, måler hverken, hvor overbevisende klonede stemmer er, eller hvor ofte den slags opkald forekommer.
Advarselstegn ved et opkald om en falsk nødsituation
FTC's vejledning om svindel med falske nødsituationer beskriver flere metoder. Formuleringerne nedenfor følger kilden, også dens forbehold som "may" (kan) og "might" (måske).
| Hvad FTC beskriver | Detalje i kilden |
|---|---|
| Personlige oplysninger | Svindlere kan kende offerets navn, hvor vedkommende bor, og andre oplysninger fundet på sociale medier eller ved at hacke et familiemedlems e-mail. |
| Autoritetspersoner | Svindlere udgiver sig måske for at være en autoritetsperson, fx en falsk advokat, politibetjent eller læge, der arbejder sammen med familiemedlemmet. |
| Hemmeligholdelse | Svindleren siger måske, at det er vigtigt at holde situationen hemmelig. |
| Betalingsmåde | Svindlere insisterer ofte på betalingsmåder, der er svære at omgøre. |
Vores fortolkning: Hver række beskriver noget, den, der ringer, siger eller beder om. Personlige oplysninger, en tredjepart, der lyder officiel, og et ønske om hemmeligholdelse er alle nævnt som mulige svindelmetoder. Oplysninger, der ser ud til at bekræfte historien, beviser altså ikke, at den er sand. Kilden siger ikke, at et enkelt tegn i sig selv beviser, at et opkald er svindel, og det påstår denne artikel heller ikke.
Betalingskrav, der gør det svært at få pengene tilbage
FTC's kilder lægger vægt på, hvordan svindlere beder om at blive betalt. FTC's forbrugeradvarsel om AI-forstærket svindel med falske nødsituationer i familien slår fast, at svindlere beder om betaling på måder, der gør det svært at få pengene tilbage.
FTC's artikel om falske nødsituationer opregner de betalingsmåder, der er svære at omgøre, og som svindlere ofte insisterer på:
- Pengeoverførsel via firmaer som Western Union eller MoneyGram.
- Afsendelse af kryptovaluta.
- Brug af en betalingsapp.
- At give dem numrene på bagsiden af gavekort.
Listen beskriver, hvad svindlere beder om. Den er ikke en vurdering af noget firma, nogen app eller noget aktiv, og den er hverken en anbefaling for eller imod nogen af dem. Materialet, der henvises til her, forklarer ikke, hvordan man får penge tilbage efter at have betalt. Det ligger uden for denne artikels emne.
Hvad IC3's meddelelse siger om syntetisk lyd og identitetstyveri
IC3's offentlige meddelelse placerer stemmekloning i en bredere vifte af AI-understøttet svindel. Den slår fast:
- Det er ikke i sig selv ulovligt at skabe eller udbrede syntetisk indhold, men syntetisk indhold kan bruges til at lette forbrydelser som svindel og afpresning.
- Kriminelle får adgang til bankkonti ved at udgive sig for at være bestemte personer ved hjælp af AI-genererede lydklip af dem.
- Kriminelle fremstiller falske identitetsdokumenter, fx falske kørekort eller legitimation fra politi, myndigheder eller banker, til identitetssvindel og svindelnumre, hvor de udgiver sig for at være andre.
Vores fortolkning: Meddelelsen dækker mere end opkald om falske nødsituationer i familien. Den beskriver, hvordan AI-genereret lyd bruges mod bankkonti, og hvordan falsk legitimation bruges, når kriminelle udgiver sig for at være andre. I forbindelse med et opkald om en nødsituation i familien er det en påmindelse om, at en påstået politibetjent, advokat eller embedsperson også kan være falsk. FTC's vejledning siger det samme om falske autoritetspersoner. Meddelelsen giver ingen tal for, hvor udbredte disse metoder er, og denne artikel forsøger ikke at anslå det.
FTC's indsats mod skadelig stemmekloning
FTC's forbrugeradvarsel om kampen mod skadelig stemmekloning beskriver myndighedens Voice Cloning Challenge og dens bredere arbejde:
- Hovedformålet med konkurrencen var at fremme nye måder at hjælpe med at beskytte folk mod skader fra AI-baseret stemmekloning.
- FTC uddelte fire hovedpræmier til de vindende bidrag.
- Et af de vindende bidrag var en teknologi, der skulle opdage stemmekloning og deepfakes i realtid i indgående telefonopkald eller digital lyd i bidder på to sekunder.
- FTC's arbejde med stemmekloning omfatter at forebygge skader, hvor det er muligt, et foreslået omfattende forbud mod svindel, hvor man udgiver sig for at være andre, og at anvende Telemarketing Sales Rule på AI-understøttede svindelopkald.
Hvor dokumentationen slutter: Kilden beskriver detektionsteknologien ud fra, hvad den "ville" gøre. Materialet, der henvises til her, oplyser ikke, hvor præcis den er, om den er tilgængelig for forbrugere, eller hvordan den klarer sig over for rigtige svindelopkald. Forbuddet mod svindel, hvor man udgiver sig for at være andre, beskrives som "foreslået", og denne artikel siger ikke noget om, hvorvidt det er trådt i kraft. Intet her skal læses som en påstand om, at noget værktøj pålideligt kan skelne en klonet stemme fra en ægte.
Kontrol af et opkald om en nødsituation i familien: hvad kilderne siger, og hvad de ikke siger
Materialet fra FTC og IC3, der henvises til her, handler om, hvordan denne type svindel fungerer, og hvilke metoder man skal være opmærksom på. Sådan som det er brugt i denne artikel, beskriver det ikke en trinvis fremgangsmåde til at kontrollere et opkald. Til gengæld giver det en række tegn hentet fra FTC's vejledning om svindel med falske nødsituationer og FTC's advarsel om AI-forstærket svindel med falske nødsituationer i familien:
- en stemme, der kan være klonet ud fra et kort klip lagt ud på nettet;
- personlige oplysninger, der kan stamme fra sociale medier eller en hacket e-mailkonto;
- en påstået advokat, politibetjent eller læge, der kan være falsk;
- en opfordring til at holde situationen hemmelig;
- et krav om betaling på en måde, der er svær at omgøre.
Vores fortolkning: At kontrollere et opkald betyder her ikke at stole på et enkelt kendetegn, som den, der ringer, selv har styr på, hvad enten det er stemmen, de personlige oplysninger eller den tredjepart, der lyder officiel. Svindlere kan levere det hele. Det er vores læsning af kilderne, ikke et trin, de selv angiver.
Denne artikels begrænsninger
Denne artikel er oplysende information, der udelukkende bygger på de officielle kilder, der er nævnt ovenfor.
Den udgør ikke investerings-, juridisk eller finansiel rådgivning.
Den beskriver ikke, hvordan man får penge tilbage, hvordan man anmelder svindel, eller hvor godt et detektionsværktøj virker.
Den måler ikke, hvor udbredt svindel med stemmekloning er.