Nella truffa dell'emergenza familiare con voce clonata dall'intelligenza artificiale, chi chiama può avere la stessa voce di un vostro parente. Secondo la FTC, a un truffatore bastano una breve registrazione audio della voce di un familiare e un programma di clonazione vocale. Proprio perché la voce si può copiare, per verificare una chiamata bisogna guardare a che cosa chiede l'interlocutore e a come lo chiede, non solo a come suona la sua voce. Questa guida riporta ciò che affermano le fonti ufficiali, tiene distinta la nostra interpretazione e indica dove si fermano le prove.

Come la clonazione vocale con l'IA si inserisce nella truffa dell'emergenza familiare

L'avviso ai consumatori della FTC sull'IA e le truffe dell'emergenza familiare descrive ciò che serve a un truffatore per clonare una voce: una breve registrazione audio della voce di un familiare, che potrebbe provenire da contenuti pubblicati online, e un programma di clonazione vocale.

L'annuncio di pubblico servizio dell'IC3 sull'IA generativa e le frodi aggiunge una considerazione più ampia: l'IA generativa riduce il tempo e lo sforzo che i criminali devono impiegare per ingannare le loro vittime.

Che cosa affermano le fonti:

  • Una breve registrazione audio e un programma di clonazione vocale sono sufficienti per clonare la voce di un familiare.
  • Quella registrazione potrebbe provenire da contenuti pubblicati online.
  • L'IA generativa riduce il tempo e lo sforzo di cui i criminali hanno bisogno per ingannare le loro vittime.

La nostra interpretazione: se una voce si può clonare partendo da una breve registrazione, una voce familiare al telefono non basta, da sola, a dimostrare chi sta chiamando. Le fonti citate qui non misurano quanto siano convincenti le voci clonate né con quale frequenza avvengano queste chiamate.

I segnali d'allarme di una finta chiamata d'emergenza familiare

La guida della FTC sulle truffe delle finte emergenze descrive diverse tattiche. La formulazione che segue rispetta quella della fonte, comprese le cautele espresse con "potrebbe" e "può".

Che cosa descrive la FTC Dettaglio riportato nella fonte
Dati personali I truffatori possono conoscere il nome della vittima, il luogo in cui vive e altre informazioni trovate sui social network o ottenute violando l'email di un familiare.
Figure autorevoli I truffatori potrebbero fingersi una figura autorevole, per esempio un falso avvocato, agente di polizia o medico che si starebbe occupando del familiare.
Segretezza Il truffatore potrebbe dire che è importante mantenere segreta la situazione.
Metodo di pagamento I truffatori spesso insistono su metodi di pagamento difficili da stornare.

La nostra interpretazione: ogni riga descrive qualcosa che chi chiama dice o chiede. Dati personali, una terza persona dall'aria ufficiale e la richiesta di mantenere il segreto sono tutti elencati come possibili tattiche di truffa. Quindi, i dettagli che sembrano confermare la storia non dimostrano che sia vera. La fonte non afferma che un singolo segnale basti a dimostrare che una chiamata è una truffa, e questo articolo non lo sostiene.

Richieste di pagamento che rendono difficile riavere i soldi

Le fonti della FTC insistono molto sul modo in cui i truffatori chiedono di essere pagati. L'avviso della FTC sulle truffe dell'emergenza familiare potenziate dall'IA afferma che i truffatori chiedono pagamenti con modalità che rendono difficile recuperare il denaro.

L'articolo della FTC sulle finte emergenze elenca i metodi di pagamento difficili da stornare su cui i truffatori spesso insistono:

  1. Trasferire denaro tramite società come Western Union o MoneyGram.
  2. Inviare criptovalute.
  3. Usare un'app di pagamento.
  4. Comunicare loro i codici riportati sul retro delle carte regalo.

Questo elenco descrive ciò che chiedono i truffatori. Non è un giudizio su alcuna società, app o attività e non è un consiglio a favore o contro nessuna di esse. Il materiale citato qui non spiega come recuperare il denaro dopo aver pagato. Questo aspetto esula dall'ambito di questo articolo.

Che cosa dice l'annuncio dell'IC3 su audio sintetico e furti d'identità

L'annuncio di pubblico servizio dell'IC3 colloca la clonazione vocale in un insieme più ampio di frodi basate sull'IA. Vi si afferma che:

  • Creare o diffondere contenuti sintetici non è di per sé illegale, ma i contenuti sintetici possono essere usati per agevolare reati come la frode e l'estorsione.
  • I criminali accedono a conti bancari impersonando persone tramite clip audio generate dall'IA che ne riproducono la voce.
  • I criminali producono documenti d'identità fraudolenti, come false patenti di guida o falsi tesserini delle forze dell'ordine, di enti governativi o bancari, per frodi d'identità e schemi di impersonificazione.

La nostra interpretazione: l'annuncio va oltre le chiamate per finte emergenze familiari. Descrive l'uso di audio generato dall'IA contro i conti bancari e l'impiego di credenziali false in schemi di impersonificazione. Nel contesto di una chiamata d'emergenza familiare, ricorda che anche il presunto agente di polizia, avvocato o funzionario potrebbe essere falso. La guida della FTC sottolinea lo stesso punto a proposito delle false figure autorevoli. L'annuncio non fornisce dati su quanto siano diffuse queste pratiche, e questo articolo non le stima.

L'azione della FTC contro la clonazione vocale dannosa

L'avviso della FTC sul contrasto alla clonazione vocale dannosa descrive la Voice Cloning Challenge dell'agenzia e il suo lavoro più ampio:

  • L'obiettivo principale della sfida era incoraggiare soluzioni innovative per aiutare a proteggere le persone dai danni della clonazione vocale basata sull'IA.
  • La FTC ha assegnato quattro premi principali alle proposte vincitrici.
  • Una delle proposte vincitrici era una tecnologia in grado, secondo la descrizione, di rilevare in tempo reale la clonazione vocale e i deepfake nelle telefonate in arrivo o nell'audio digitale, analizzandoli in blocchi di due secondi.
  • Il lavoro della FTC sulla clonazione vocale comprende la prevenzione dei danni ove possibile, un divieto generale proposto contro le frodi per impersonificazione e l'applicazione della Telemarketing Sales Rule alle chiamate truffaldine basate sull'IA.

Dove si fermano le prove: la fonte descrive la tecnologia di rilevamento in termini di ciò che "sarebbe" in grado di fare. Il materiale citato qui non indica quanto sia accurata, se sia disponibile per i consumatori né come si comporti con chiamate truffaldine reali. Il divieto delle frodi per impersonificazione è descritto come "proposto", e questo articolo non dice se sia entrato in vigore. Nulla di quanto scritto qui va interpretato come un'affermazione che uno strumento possa distinguere in modo affidabile una voce clonata da una reale.

Verificare una chiamata d'emergenza familiare: che cosa dicono e non dicono le fonti

Il materiale della FTC e dell'IC3 citato qui si concentra su come funzionano queste truffe e su quali tattiche tenere d'occhio. Per come è stato usato in questo articolo, non stabilisce una procedura di verifica passo per passo. Fornisce invece una serie di segnali tratti dalla guida della FTC sulle truffe delle finte emergenze e dall'avviso della FTC sulle truffe dell'emergenza familiare potenziate dall'IA:

  • una voce che potrebbe essere stata clonata da una breve registrazione pubblicata online;
  • dati personali che potrebbero provenire dai social network o da un account email violato;
  • un presunto avvocato, agente di polizia o medico che potrebbe essere falso;
  • la richiesta di mantenere segreta la situazione;
  • la pretesa di un pagamento con modalità difficili da stornare.

La nostra interpretazione: in questo contesto verificare significa non fare affidamento su nessun singolo indizio controllato da chi chiama, che si tratti della voce, dei dati personali o della terza persona dall'aria ufficiale. I truffatori possono fornire tutti questi elementi. Questa è la nostra lettura delle fonti, non un passaggio che esse indicano.

Limiti di questo articolo

Questo articolo fornisce informazioni a scopo educativo basate esclusivamente sulle fonti ufficiali citate sopra.

Non costituisce una consulenza in materia di investimenti, legale o finanziaria.

Non spiega come recuperare denaro, come segnalare una truffa né quanto sia efficace un qualsiasi strumento di rilevamento.

Non misura quanto siano diffuse le truffe basate sulla clonazione vocale.