AI音声クローンを使った「家族の緊急事態」詐欺では、電話の相手が家族そっくりの声で話すことがあります。FTCによると、詐欺師に必要なのは家族の声を録音した短い音声クリップと、音声クローン用のプログラムだけです。声は複製できるため、電話の真偽を確かめるには、相手の声だけでなく、何を求めているのか、どのように求めているのかに注目する必要があります。この解説では、公式情報源に書かれている内容を示し、私たち自身の解釈はそれと分けて記したうえで、根拠がどこまで及ぶのかも明らかにします。
AI音声クローンは家族の緊急事態詐欺でどう使われるのか
AIと家族の緊急事態を装う手口に関するFTCの消費者向け注意喚起は、詐欺師が声を複製するのに必要なものを説明しています。家族の声を録音した短い音声クリップ（オンラインに投稿されたコンテンツから入手される可能性があります）と、音声クローン用のプログラムです。
生成AIと詐欺に関するIC3の公共広報（PSA）は、より広い視点を加えています。生成AIによって、犯罪者が標的をだますのに費やす時間と労力が減るという点です。
情報源に書かれていること：
- 短い音声クリップと音声クローン用のプログラムがあれば、家族の声を複製できる。
- その音声クリップは、オンラインに投稿されたコンテンツから入手される可能性がある。
- 生成AIによって、犯罪者が標的をだますのに必要な時間と労力が減る。
私たちの解釈：短い音声クリップから声を複製できるのなら、電話口で聞き慣れた声がしたというだけでは、相手が誰なのかの証明にはなりません。なお、ここで引用した情報源は、クローン音声がどれほど本物らしく聞こえるのか、こうした電話がどれくらいの頻度でかかってくるのかを測定していません。
家族の緊急事態を装う詐欺電話の警告サイン
偽の緊急事態を使う詐欺に関するFTCのガイダンスは、いくつかの手口を挙げています。以下の表現は、「〜場合がある」「〜かもしれない」といった含みのある言い回しも含めて、情報源に沿っています。
| FTCが説明している手口 | 情報源の記述 |
|---|---|
| 個人情報 | 詐欺師は、標的の名前や住んでいる場所のほか、SNSで見つけた情報や、家族のメールをハッキングして得た情報を知っている場合がある。 |
| 権威ある人物 | 詐欺師は、家族の件に関わっている弁護士、警察官、医師などの権威ある人物になりすますかもしれない。 |
| 口止め | 詐欺師は、この件は秘密にしておくことが重要だと言うかもしれない。 |
| 支払い方法 | 詐欺師は、取り消しにくい支払い方法をしばしば強く求める。 |
私たちの解釈：どの行も、電話の相手が口にする内容や求める内容を表しています。個人情報、もっともらしい肩書きを持つ第三者、そして口止めの要求は、いずれも詐欺の手口になりうるものとして挙げられています。つまり、話の裏付けに思える詳細があっても、それが本当だという証明にはなりません。情報源は、いずれか一つのサインだけで詐欺だと断定できるとは述べておらず、本記事もそのような主張はしません。
お金を取り戻しにくくする支払いの要求
FTCの情報源は、詐欺師がどのような方法で支払いを求めるかを重視しています。AIで巧妙化した家族の緊急事態詐欺に関するFTCの消費者向け注意喚起は、詐欺師がお金を取り戻しにくい方法で支払いを求めると述べています。
偽の緊急事態に関するFTCの記事は、詐欺師がしばしば強く求める、取り消しにくい支払い方法を挙げています。
- Western UnionやMoneyGramなどの会社を通じた送金。
- 暗号資産（仮想通貨）の送付。
- 決済アプリの利用。
- ギフトカードの裏面に記載された番号を伝えること。
このリストは、詐欺師が何を求めるかを示したものです。特定の会社、アプリ、資産を評価するものではなく、それらの利用を勧めたり避けるよう勧めたりするものでもありません。ここで引用した資料は、支払ってしまった後にお金を取り戻す方法については説明していません。その手続きは本記事の対象外です。
合成音声となりすましについてIC3の広報が述べていること
IC3の公共広報は、音声クローンを、AIを悪用した詐欺全体の中に位置づけています。広報の記述は次のとおりです。
- 合成コンテンツの作成や配布はそれ自体が本質的に違法というわけではないが、合成コンテンツは詐欺や恐喝などの犯罪を助長するために使われうる。
- 犯罪者は、本人のAI生成音声クリップを使って個人になりすまし、銀行口座にアクセスする。
- 犯罪者は、なりすまし詐欺や身元詐称の手口のために、偽の運転免許証や、法執行機関・政府・銀行の偽の身分証明といった不正な身分証明書類を作成する。
私たちの解釈：この広報が扱っているのは、家族の緊急事態を装う電話にとどまりません。AI生成音声が銀行口座を狙って使われることや、偽の身分証明がなりすましの手口に使われることが述べられています。家族の緊急事態を告げる電話の文脈で言えば、警察官、弁護士、公的機関の職員を名乗る人物も偽物かもしれない、という注意につながります。FTCのガイダンスも、偽の権威ある人物について同じ点を指摘しています。広報は、こうした手口がどれほど広がっているかの数値を示しておらず、本記事もその推計は行いません。
有害な音声クローンに対するFTCの取り組み
有害な音声クローンへの対抗に関するFTCの消費者向け注意喚起は、同機関の「Voice Cloning Challenge（音声クローン・チャレンジ）」と、より幅広い取り組みについて説明しています。
- このチャレンジの主な目的は、AIを悪用した音声クローンの被害から人々を守るための革新的な方法を後押しすることだった。
- FTCは、入賞した応募作品に四つの最優秀賞を授与した。
- 入賞作品の一つは、着信した電話やデジタル音声を二秒ごとの区切りで解析し、音声クローンやディープフェイクをリアルタイムで検出するという技術だった。
- 音声クローンに関するFTCの取り組みには、可能な範囲での被害の防止、なりすまし詐欺の包括的な禁止の提案、そしてAIを悪用した詐欺電話へのテレマーケティング販売規則（Telemarketing Sales Rule）の適用が含まれる。
根拠が及ぶ範囲：情報源は、この検出技術について「〜するという」ものとして、つまりできるはずのことを説明しているにすぎません。ここで引用した資料は、その精度、一般消費者が利用できるかどうか、実際の詐欺電話に対してどう機能するかを述べていません。なりすまし詐欺の禁止は「提案」段階のものとして説明されており、本記事はそれが発効したかどうかについては言及しません。ここに書かれた内容を、クローン音声と本物の声をどのツールでも確実に聞き分けられるという意味に受け取らないでください。
家族の緊急事態を告げる電話を確かめる：情報源が述べていること、述べていないこと
ここで引用したFTCとIC3の資料は、こうした詐欺の仕組みと、警戒すべき手口に焦点を当てています。本記事で用いた範囲では、段階を追った確認手順は示されていません。資料から得られるのは、偽の緊急事態を使う詐欺に関するFTCのガイダンスとAIで巧妙化した家族の緊急事態詐欺に関するFTCの注意喚起から引き出した、次のようなサインです。
- オンラインに投稿された短い音声クリップから複製されたかもしれない声
- SNSやハッキングされたメールアカウントから得られたかもしれない個人情報
- 偽物かもしれない、弁護士・警察官・医師を名乗る人物
- この件を秘密にしておくようにという要求
- 取り消しにくい方法での支払いの要求
私たちの解釈：ここでいう「確かめる」とは、声、個人情報、もっともらしい肩書きの第三者など、電話の相手がコントロールできる手がかりのどれか一つだけに頼らないことです。これらはすべて詐欺師が用意できるものだからです。これは情報源についての私たちの読み方であり、情報源自体が示している手順ではありません。
本記事の限界
本記事は、上記で引用した公式情報源のみに基づく教育目的の情報です。
投資、法律、または金融に関する助言ではありません。
資金の回収方法、詐欺の通報方法、検出ツールの有効性については扱っていません。
音声クローン詐欺がどの程度広がっているかを測定するものではありません。