Dans une arnaque à l’urgence familiale fondée sur le clonage de voix par IA, la personne au bout du fil peut avoir exactement la voix d’un de vos proches. Selon la FTC, il suffit à l’escroc d’un court extrait audio de la voix d’un membre de la famille et d’un logiciel de clonage vocal. Puisque la voix peut être copiée, vérifier un appel suppose d’examiner ce que l’interlocuteur demande et la manière dont il le demande, et pas seulement le son de sa voix. Ce décryptage expose ce qu’affirment les sources officielles, distingue clairement notre propre interprétation et indique où s’arrêtent les preuves.
Comment le clonage de voix par IA s’insère dans une arnaque à l’urgence familiale
L’alerte consommateurs de la FTC sur l’IA et les arnaques à l’urgence familiale décrit ce dont un escroc a besoin pour cloner une voix : un court extrait audio de la voix d’un membre de la famille, qui peut provenir de contenus publiés en ligne, et un logiciel de clonage vocal.
L’avis d’intérêt public de l’IC3 sur l’IA générative et la fraude élargit le propos : l’IA générative réduit le temps et les efforts que les criminels doivent consacrer à tromper leurs cibles.
Ce qu’affirment les sources :
- Un court extrait audio et un logiciel de clonage vocal suffisent pour cloner la voix d’un membre de la famille.
- Cet extrait peut provenir de contenus publiés en ligne.
- L’IA générative réduit le temps et les efforts nécessaires aux criminels pour tromper leurs cibles.
Notre interprétation : si une voix peut être clonée à partir d’un court extrait, entendre une voix familière au téléphone ne prouve pas, à lui seul, l’identité de l’appelant. Les sources citées ici ne mesurent ni le degré de crédibilité des voix clonées, ni la fréquence de ces appels.
Les signaux d’alerte d’un appel frauduleux à l’urgence familiale
Les conseils de la FTC sur les arnaques aux fausses urgences décrivent plusieurs tactiques. La formulation ci-dessous suit celle de la source, y compris ses nuances telles que « peuvent » et « pourraient ».
| Ce que décrit la FTC | Précision apportée par la source |
|---|---|
| Informations personnelles | Les escrocs peuvent connaître le nom de leur cible, son lieu de résidence et d’autres informations trouvées sur les réseaux sociaux ou en piratant la messagerie électronique d’un membre de la famille. |
| Figures d’autorité | Les escrocs pourraient se faire passer pour une figure d’autorité, par exemple un faux avocat, un faux policier ou un faux médecin qui s’occuperait du membre de la famille. |
| Secret | L’escroc pourrait affirmer qu’il est important de garder la situation secrète. |
| Mode de paiement | Les escrocs exigent souvent des modes de paiement difficiles à annuler. |
Notre interprétation : chaque ligne décrit quelque chose que l’appelant dit ou réclame. Des détails personnels, un tiers à l’allure officielle et une demande de discrétion figurent tous parmi les tactiques d’escroquerie possibles. Des détails qui semblent confirmer l’histoire ne prouvent donc pas qu’elle soit vraie. La source n’affirme pas qu’un signal isolé suffit à prouver qu’un appel est une arnaque, et cet article ne l’affirme pas non plus.
Des demandes de paiement qui rendent l’argent difficile à récupérer
Les sources de la FTC insistent sur la manière dont les escrocs demandent à être payés. L’alerte consommateurs de la FTC sur les arnaques à l’urgence familiale renforcées par l’IA indique que les escrocs réclament des paiements selon des modalités qui rendent l’argent difficile à récupérer.
L’article de la FTC sur les fausses urgences énumère les modes de paiement difficiles à annuler sur lesquels les escrocs insistent souvent :
- Virer de l’argent par l’intermédiaire de sociétés comme Western Union ou MoneyGram.
- Envoyer des cryptomonnaies.
- Utiliser une application de paiement.
- Leur communiquer les numéros figurant au dos de cartes cadeaux.
Cette liste décrit ce que réclament les escrocs. Elle ne constitue un jugement sur aucune entreprise, application ou actif, ni une recommandation pour ou contre l’un d’eux. Les documents cités ici n’expliquent pas comment récupérer de l’argent après un paiement : cette démarche sort du cadre de cet article.
Ce que dit l’avis de l’IC3 sur l’audio synthétique et l’usurpation d’identité
L’avis d’intérêt public de l’IC3 replace le clonage de voix dans un ensemble plus large de fraudes facilitées par l’IA. Il indique que :
- Créer ou diffuser du contenu synthétique n’est pas illégal en soi, mais ce type de contenu peut servir à faciliter des délits tels que la fraude et l’extorsion.
- Des criminels accèdent à des comptes bancaires en se faisant passer pour des personnes à l’aide d’extraits audio de celles-ci générés par IA.
- Des criminels fabriquent de faux documents d’identification, comme de faux permis de conduire ou de faux justificatifs des forces de l’ordre, de l’administration ou du secteur bancaire, pour des fraudes à l’identité et des opérations d’usurpation.
Notre interprétation : l’avis dépasse le seul cas des appels à l’urgence familiale. Il décrit l’usage d’audio généré par IA contre des comptes bancaires et l’emploi de faux justificatifs dans des opérations d’usurpation d’identité. Dans le contexte d’un appel à l’urgence familiale, c’est un rappel qu’un prétendu policier, avocat ou représentant officiel peut lui aussi être faux. Les conseils de la FTC font la même remarque à propos des fausses figures d’autorité. L’avis ne fournit aucun chiffre sur l’ampleur de ces pratiques, et cet article ne cherche pas à l’estimer.
L’action de la FTC contre le clonage de voix malveillant
L’alerte consommateurs de la FTC consacrée à la lutte contre le clonage de voix malveillant présente le Voice Cloning Challenge de l’agence ainsi que son action plus large :
- L’objectif principal du challenge était d’encourager des approches innovantes pour aider à protéger les personnes contre les préjudices liés au clonage de voix par IA.
- La FTC a décerné quatre premiers prix aux propositions lauréates.
- L’une d’elles était une technologie qui permettrait de détecter le clonage de voix et les deepfakes en temps réel, sur des appels téléphoniques entrants ou de l’audio numérique, par tranches de deux secondes.
- L’action de la FTC en matière de clonage de voix comprend la prévention des préjudices lorsque c’est possible, une interdiction générale proposée de la fraude par usurpation d’identité et l’application de la Telemarketing Sales Rule (règle encadrant la vente par télémarketing) aux appels frauduleux utilisant l’IA.
Là où s’arrêtent les preuves : la source décrit la technologie de détection en termes de ce qu’elle « permettrait » de faire. Les documents cités ici ne précisent ni sa fiabilité, ni sa disponibilité pour le grand public, ni ses performances face à de véritables appels frauduleux. L’interdiction de la fraude par usurpation d’identité est qualifiée de « proposée », et cet article ne dit pas si elle est entrée en vigueur. Rien ici ne doit être compris comme l’affirmation qu’un outil serait capable de distinguer de façon fiable une voix clonée d’une voix réelle.
Vérifier un appel à l’urgence familiale : ce que disent les sources, et ce qu’elles ne disent pas
Les documents de la FTC et de l’IC3 cités ici se concentrent sur le fonctionnement de ces arnaques et sur les tactiques à surveiller. Tels qu’utilisés pour cet article, ils ne décrivent pas de procédure de vérification pas à pas. Ils fournissent en revanche un ensemble de signaux tirés des conseils de la FTC sur les arnaques aux fausses urgences et de l’alerte de la FTC sur les arnaques à l’urgence familiale renforcées par l’IA :
- une voix qui peut avoir été clonée à partir d’un court extrait publié en ligne ;
- des informations personnelles qui peuvent provenir des réseaux sociaux ou d’une messagerie piratée ;
- un prétendu avocat, policier ou médecin qui peut être faux ;
- une demande de garder la situation secrète ;
- l’exigence d’un paiement difficile à annuler.
Notre interprétation : vérifier, ici, signifie ne se fier à aucun indice isolé que l’appelant maîtrise, qu’il s’agisse de la voix, des détails personnels ou du tiers à l’allure officielle. Les escrocs peuvent fournir tous ces éléments. Il s’agit de notre lecture des sources, et non d’une étape qu’elles formulent.
Limites de cet article
Cet article est une information à visée pédagogique fondée uniquement sur les sources officielles citées ci-dessus.
Il ne constitue pas un conseil en investissement, juridique ou financier.
Il n’explique pas comment récupérer de l’argent, comment signaler une escroquerie ni dans quelle mesure un outil de détection est efficace.
Il ne mesure pas la fréquence des escroqueries par clonage de voix.