Bij oplichting met AI-stemklonen rond een familienoodgeval kan de beller klinken als je eigen familielid. Volgens de FTC heeft een oplichter niet meer nodig dan een kort audiofragment van de stem van een familielid en een programma om stemmen te klonen. Omdat een stem te kopiëren is, draait het controleren van zo'n telefoontje om wát de beller vraagt en hoe, niet alleen om hoe hij of zij klinkt. In deze uitleg zetten we op een rij wat de officiële bronnen zeggen, houden we onze eigen interpretatie daar apart van en geven we aan waar het bewijs ophoudt.

Hoe AI-stemklonen past in oplichting met een familienoodgeval

De consumentenwaarschuwing van de FTC over AI en oplichting met familienoodgevallen beschrijft wat een oplichter nodig heeft om een stem te klonen: een kort audiofragment van de stem van een familielid, dat afkomstig kan zijn van content die online is gezet, en een programma om stemmen te klonen.

De publieke waarschuwing van IC3 over generatieve AI en fraude voegt daar een breder punt aan toe: generatieve AI vermindert de tijd en moeite die criminelen moeten steken in het misleiden van hun doelwitten.

Wat de bronnen zeggen:

  • Een kort audiofragment en een programma voor stemklonen zijn genoeg om de stem van een familielid te klonen.
  • Dat fragment kan afkomstig zijn van content die online is gezet.
  • Generatieve AI vermindert de tijd en moeite die criminelen nodig hebben om hun doelwitten te misleiden.

Onze interpretatie: als een stem uit een kort fragment te klonen is, bewijst een bekende stem aan de lijn op zichzelf niet wie er belt. De hier aangehaalde bronnen meten niet hoe overtuigend gekloonde stemmen zijn of hoe vaak zulke telefoontjes voorkomen.

Waarschuwingssignalen bij een telefoontje over een familienoodgeval

De FTC-informatie over oplichting met nepnoodgevallen beschrijft verschillende tactieken. De formulering hieronder volgt de bron, inclusief voorbehouden als "kunnen" en "mogelijk".

Wat de FTC beschrijft Detail in de bron
Persoonlijke gegevens Oplichters kunnen de naam van een doelwit kennen, weten waar die woont en over andere informatie beschikken die ze op sociale media hebben gevonden of door de e-mail van een familielid te hacken.
Gezagsfiguren Oplichters doen zich mogelijk voor als gezagsfiguur, zoals een nepadvocaat, nep-politieagent of nep-arts die met het familielid te maken zou hebben.
Geheimhouding De oplichter zegt mogelijk dat het belangrijk is de situatie geheim te houden.
Betaalmethode Oplichters staan er vaak op dat je betaalt via methoden die moeilijk terug te draaien zijn.

Onze interpretatie: elke rij beschrijft iets wat een beller zegt of vraagt. Persoonlijke gegevens, een officieel klinkende derde partij en een verzoek om geheimhouding staan allemaal vermeld als mogelijke oplichtingstactieken. Details die het verhaal lijken te bevestigen, bewijzen dus niet dat het klopt. De bron zegt niet dat één afzonderlijk signaal bewijst dat een telefoontje oplichting is, en dit artikel beweert dat evenmin.

Betaalverzoeken waarbij je je geld moeilijk terugkrijgt

De FTC-bronnen leggen nadruk op de manier waarop oplichters betaald willen worden. De consumentenwaarschuwing van de FTC over door AI versterkte oplichting met familienoodgevallen stelt dat oplichters vragen om betaling op manieren waarbij je het geld moeilijk terugkrijgt.

Het FTC-artikel over nepnoodgevallen noemt de moeilijk terug te draaien betaalmethoden waar oplichters vaak op aandringen:

  1. Geld overmaken via bedrijven als Western Union of MoneyGram.
  2. Cryptovaluta versturen.
  3. Een betaalapp gebruiken.
  4. De codes op de achterkant van cadeaukaarten doorgeven.

Deze lijst beschrijft waar oplichters om vragen. Het is geen oordeel over een bedrijf, app of bezitting, en evenmin een aanbeveling voor of tegen een van hen. Het hier aangehaalde materiaal legt niet uit hoe je na een betaling je geld terugkrijgt. Dat proces valt buiten het bestek van dit artikel.

Wat de IC3-waarschuwing zegt over synthetische audio en imitatie

De publieke waarschuwing van IC3 plaatst stemklonen binnen een bredere reeks vormen van fraude met behulp van AI. Daarin staat:

  • Het maken of verspreiden van synthetische content is op zichzelf niet illegaal, maar synthetische content kan worden gebruikt om misdrijven als fraude en afpersing te vergemakkelijken.
  • Criminelen krijgen toegang tot bankrekeningen door zich voor te doen als personen met behulp van door AI gegenereerde audiofragmenten van die personen.
  • Criminelen genereren valse identiteitsdocumenten, zoals nep-rijbewijzen of valse legitimaties van politie, overheid of bank, voor identiteitsfraude en imitatiepraktijken.

Onze interpretatie: de waarschuwing gaat over meer dan telefoontjes over familienoodgevallen. Ze beschrijft hoe door AI gegenereerde audio wordt ingezet tegen bankrekeningen en hoe valse legitimaties worden gebruikt bij imitatiepraktijken. In de context van een telefoontje over een familienoodgeval herinnert dit eraan dat een zogenaamde politieagent, advocaat of ambtenaar ook nep kan zijn. De FTC-informatie maakt hetzelfde punt over nepgezagsfiguren. De waarschuwing geeft geen cijfers over hoe wijdverbreid deze praktijken zijn, en dit artikel doet daar ook geen schatting van.

Wat de FTC doet tegen schadelijk stemklonen

De consumentenwaarschuwing van de FTC over de strijd tegen schadelijk stemklonen beschrijft de Voice Cloning Challenge van de toezichthouder en zijn bredere werk:

  • Het hoofddoel van de challenge was het aanmoedigen van innovatieve manieren om mensen te helpen beschermen tegen schade door stemklonen met behulp van AI.
  • De FTC kende vier hoofdprijzen toe aan de winnende inzendingen.
  • Een van de winnende inzendingen was een technologie die stemklonen en deepfakes in realtime zou detecteren in inkomende telefoongesprekken of digitale audio, in fragmenten van twee seconden.
  • Het werk van de FTC rond stemklonen omvat het waar mogelijk voorkomen van schade, een voorgesteld alomvattend verbod op imitatiefraude en het toepassen van de Telemarketing Sales Rule op oplichtingstelefoontjes met behulp van AI.

Waar het bewijs ophoudt: de bron beschrijft de detectietechnologie in termen van wat die "zou" doen. Het hier aangehaalde materiaal zegt niet hoe nauwkeurig die is, of consumenten er toegang toe hebben, of hoe ze presteert bij echte oplichtingstelefoontjes. Het verbod op imitatiefraude wordt omschreven als "voorgesteld", en dit artikel zegt niet of het al van kracht is. Niets hier mag worden gelezen als een bewering dat een tool betrouwbaar een gekloonde stem van een echte kan onderscheiden.

Een telefoontje over een familienoodgeval controleren: wat de bronnen wel en niet zeggen

Het hier aangehaalde materiaal van de FTC en IC3 richt zich op hoe deze oplichting werkt en op welke tactieken je moet letten. Zoals gebruikt voor dit artikel bevat het geen stapsgewijze verificatieprocedure. Wat het wél biedt, is een reeks signalen uit de FTC-informatie over oplichting met nepnoodgevallen en de FTC-waarschuwing over door AI versterkte oplichting met familienoodgevallen:

  • een stem die gekloond kan zijn uit een kort fragment dat online is gezet;
  • persoonlijke gegevens die afkomstig kunnen zijn van sociale media of een gehackt e-mailaccount;
  • een zogenaamde advocaat, politieagent of arts die nep kan zijn;
  • een verzoek om de situatie geheim te houden;
  • een eis om te betalen op een manier die moeilijk terug te draaien is.

Onze interpretatie: controleren betekent hier dat je niet vertrouwt op één enkel signaal dat de beller in de hand heeft, of dat nu de stem is, de persoonlijke gegevens of de officieel klinkende derde partij. Oplichters kunnen die allemaal aanleveren. Dit is onze lezing van de bronnen, geen stap die zij zelf noemen.

Beperkingen van dit artikel

Dit artikel bevat educatieve informatie die uitsluitend is gebaseerd op de hierboven genoemde officiële bronnen.

Het is geen beleggings-, juridisch of financieel advies.

Het gaat niet in op hoe je geld terugkrijgt, hoe je oplichting meldt of hoe goed een detectietool werkt.

Het meet niet hoe vaak oplichting met stemklonen voorkomt.