Ved svindel med KI-klonet stemme kan den som ringer, høres ut som en du er i familie med. Ifølge FTC trenger svindleren bare et kort lydklipp av stemmen til et familiemedlem og et program for stemmekloning. Siden stemmen kan kopieres, holder det ikke å lytte etter om den høres riktig ut. Du må også se på hva den som ringer, ber om, og hvordan vedkommende ber om det. Denne artikkelen går gjennom hva de offisielle kildene sier. Vår egen tolkning holdes adskilt, og vi sier tydelig hvor kildene ikke gir svar.
Hvordan KI-stemmekloning brukes i svindel med falske nødsituasjoner
FTCs forbrukervarsel om KI og svindel med nødsituasjoner i familien beskriver hva en svindler trenger for å klone en stemme: et kort lydklipp av et familiemedlem, for eksempel hentet fra innhold som er lagt ut på nett, og et program for stemmekloning.
IC3s kunngjøring om generativ KI og svindel legger til et mer generelt poeng: Generativ KI gjør at kriminelle bruker mindre tid og krefter på å lure ofrene sine.
Hva kildene sier:
- Et kort lydklipp og et program for stemmekloning er nok til å klone stemmen til et familiemedlem.
- Klippet kan være hentet fra innhold som er lagt ut på nett.
- Generativ KI gjør at kriminelle trenger mindre tid og krefter for å lure ofrene sine.
Vår tolkning: Hvis en stemme kan klones fra et kort klipp, beviser ikke en kjent stemme i telefonen alene hvem som ringer. Kildene som er oppgitt her, måler ikke hvor overbevisende klonede stemmer er, eller hvor ofte slike samtaler forekommer.
Varseltegn i en samtale om en nødsituasjon i familien
FTCs veiledning om svindel med falske nødsituasjoner beskriver flere metoder. Formuleringene nedenfor følger kilden, også forbeholdene, som «kan» og «kanskje».
| Hva FTC beskriver | Hva kilden sier |
|---|---|
| Personopplysninger | Svindlere kan kjenne navnet ditt og vite hvor du bor, i tillegg til andre opplysninger de har funnet på sosiale medier eller ved å hacke e-posten til et familiemedlem. |
| Autoritetspersoner | Svindlere kan utgi seg for å være en autoritetsperson, for eksempel en falsk advokat, politibetjent eller lege som skal hjelpe familiemedlemmet. |
| Hemmelighold | Svindleren kan kanskje si at det er viktig å holde situasjonen hemmelig. |
| Betalingsmåte | Svindlere krever ofte betalingsmåter som er vanskelige å reversere. |
Vår tolkning: Hver rad beskriver noe den som ringer, sier eller ber om. Personopplysninger, en tredjepart som høres offisiell ut og et ønske om hemmelighold står alle oppført som mulige svindelmetoder. Detaljer som ser ut til å bekrefte historien, beviser altså ikke at den er sann. Kilden sier ikke at ett enkelt tegn beviser at samtalen er svindel, og det påstår heller ikke denne artikkelen.
Betalingskrav som gjør pengene vanskelige å få tilbake
FTC-kildene legger stor vekt på hvordan svindlerne vil ha betalt. FTCs forbrukervarsel om KI-forsterket svindel med nødsituasjoner i familien sier at svindlere ber om betaling på måter som gjør det vanskelig å få pengene tilbake.
FTCs artikkel om falske nødsituasjoner lister opp betalingsmåtene som er vanskelige å reversere, og som svindlere ofte krever:
- Pengeoverføring gjennom selskaper som Western Union eller MoneyGram.
- Overføring av kryptovaluta.
- Bruk av en betalingsapp.
- Å oppgi numrene på baksiden av gavekort.
Listen beskriver hva svindlere ber om. Den er ingen vurdering av noe selskap, noen app eller noen eiendel, og den er heller ingen anbefaling for eller mot noen av dem. Materialet som er oppgitt her, forklarer ikke hvordan man får tilbake penger etter å ha betalt. Det temaet ligger utenfor denne artikkelen.
Hva IC3-kunngjøringen sier om syntetisk lyd og falsk identitet
IC3-kunngjøringen plasserer stemmekloning i et bredere bilde av KI-drevet svindel. Den sier:
- Å lage eller spre syntetisk innhold er ikke ulovlig i seg selv, men syntetisk innhold kan brukes til å legge til rette for lovbrudd som svindel og utpressing.
- Kriminelle får tilgang til bankkontoer ved å utgi seg for å være andre personer med KI-genererte lydklipp av dem.
- Kriminelle lager falske identifikasjonsdokumenter, som falske førerkort eller falsk legitimasjon fra politi, myndigheter eller bank, til identitetssvindel og opplegg der de utgir seg for å være andre.
Vår tolkning: Kunngjøringen handler om mer enn telefoner om nødsituasjoner i familien. Den beskriver hvordan KI-generert lyd brukes mot bankkontoer, og hvordan falsk legitimasjon brukes når svindlere utgir seg for å være andre. Når det gjelder en samtale om en nødsituasjon i familien, er dette en påminnelse om at en som sier at han eller hun er politibetjent, advokat eller offentlig ansatt, også kan være falsk. FTCs veiledning sier det samme om falske autoritetspersoner. Kunngjøringen oppgir ingen tall for hvor utbredt disse metodene er, og denne artikkelen anslår dem ikke.
FTCs arbeid mot skadelig stemmekloning
FTCs forbrukervarsel om kampen mot skadelig stemmekloning beskriver etatens Voice Cloning Challenge og det bredere arbeidet deres:
- Hovedmålet med konkurransen var å oppmuntre til nyskapende måter å beskytte folk mot skader fra KI-drevet stemmekloning på.
- FTC delte ut fire hovedpriser til vinnerbidragene.
- Ett av vinnerbidragene var en teknologi som skulle oppdage stemmekloning og deepfakes i sanntid i innkommende telefonsamtaler eller digital lyd, i biter på to sekunder.
- FTCs arbeid med stemmekloning omfatter å forebygge skader der det er mulig, et foreslått omfattende forbud mot svindel der noen utgir seg for å være andre, og å bruke regelverket Telemarketing Sales Rule på KI-drevne svindelsamtaler.
Her slutter kildegrunnlaget: Kilden beskriver deteksjonsteknologien ut fra hva den «ville» gjøre. Materialet som er oppgitt her, sier ikke hvor treffsikker den er, om forbrukere har tilgang til den, eller hvordan den fungerer mot ekte svindelsamtaler. Forbudet mot svindel der noen utgir seg for å være andre, beskrives som «foreslått», og denne artikkelen sier ikke om det har trådt i kraft. Ingenting her må forstås som at et verktøy på en pålitelig måte kan skille en klonet stemme fra en ekte.
Å sjekke en samtale om en nødsituasjon: hva kildene sier, og hva de ikke sier
Materialet fra FTC og IC3 som er oppgitt her, handler om hvordan svindelen foregår og hvilke metoder man bør se opp for. Slik vi har brukt det i denne artikkelen, gir det ingen trinnvis fremgangsmåte for å sjekke en samtale. Det det gir, er en rekke tegn hentet fra FTCs veiledning om svindel med falske nødsituasjoner og FTCs varsel om KI-forsterket svindel med nødsituasjoner i familien:
- en stemme som kan være klonet fra et kort klipp lagt ut på nett
- personopplysninger som kan stamme fra sosiale medier eller en hacket e-postkonto
- en som sier at han eller hun er advokat, politibetjent eller lege, og som kan være falsk
- en oppfordring om å holde situasjonen hemmelig
- et krav om betaling på en måte som er vanskelig å reversere
Vår tolkning: Å sjekke samtalen betyr her at du ikke stoler på ett enkelt signal som den som ringer, har kontroll over, enten det er stemmen, personopplysningene eller tredjeparten som høres offisiell ut. Alt dette kan svindlere skaffe seg. Dette er vår lesning av kildene, ikke et trinn som kildene selv beskriver.
Hva denne artikkelen ikke dekker
Denne artikkelen er opplysende informasjon basert utelukkende på de offisielle kildene som er oppgitt ovenfor.
Den er ikke investerings-, juridisk eller finansiell rådgivning.
Den tar ikke for seg hvordan man får pengene tilbake, hvordan man anmelder svindel eller hvor godt et deteksjonsverktøy fungerer.
Den måler ikke hvor utbredt svindel med stemmekloning er.