近年、生成AIの急速な普及により、テキストや画像だけでなく、「音声」までも精巧に生成・模倣できることをご存じでしょうか。
まるでSF映画の世界のような技術が誰でも気軽に利用できるようになったため、詐欺にも悪用され始めています。
特に急速な拡大を見せるAI音声詐欺は、生成AIを使って特定の人物の声を合成・模倣し、その声を悪用して被害者を騙すため、これまで詐欺に騙されたことがない人も注意が必要です。
そこで本記事では、AI音声詐欺をテーマに、恐ろしい最新の手口や最新の被害事例、そして被害を防ぐための対策方法を弁護士が解説します。
＼もしかしたら詐欺に遭ったかもしれない...／
危惧されていたAI音声詐欺がいよいよ現実になりつつある
AI音声詐欺とは、AIを使って特定の人物の声を合成・模倣し、その声を悪用して被害者を騙す詐欺の手口です。
従来のオレオレ詐欺や振り込め詐欺と異なり、AIが生成した「本物そっくりの音声」を使うため、被害者が「これは詐欺だ」と見抜くことが非常に難しいです。
2020年代初頭は企業がターゲットとなることが多かったですが、近年は個人も狙われるようになっており、日本国内でも被害が見られるようになってきました。
恐ろし過ぎるAI音声詐欺の悪用・被害事例
驚異的なスピードで進化している生成AIの技術を用いた「AI音声詐欺」は、すでに世界各地で深刻な被害をもたらしています。
しかし、フィッシング詐欺やオレオレ詐欺のように、まだ身近な問題として感じている方は少なく、どのような事例があるのか広く知られていません。
そこで、本章では実際に報告されているAI音声詐欺の代表的な被害事例を紹介します。
ただし、詐欺には特徴も見られるため、事例を知っておくことが被害を防ぐことにつながりますよ。
社長を装って不正に送金させようとした事例
2024年、日本国内でも衝撃的な事件が報告されました。
共同通信の報道によると、詐欺グループが企業の社長の声をAIで模倣し、経理担当者に電話をかけて不正送金を指示するという手口が確認されました。
まるで本物の社長が話しているかのような音声で「今すぐ取引先に振り込んでほしい」と具体的な金額と振込先を告げました。
経理担当者は、発信者の表示が社長の携帯電話番号であったことや、声が社長そっくりであったこと、「緊急対応が必要」という言葉から本人確認をせずに送金手続きを進めてしまったため詐欺被害につながりました。
参考：共同通信 AI悪用か、社長の偽音声で指示 部下に電話、不正送金命じる （2025年3月19日）
弁護士を名乗る人物からお金を要求された事例
アメリカでは、「あなたの息子が交通事故を起こした。弁護士費用が必要だ」とAI音声で電話をかけてくる詐欺が発生しました。
この手口では、まず別の番号から「息子」に扮したAI音声で家族に電話し、続いて「弁護士」を名乗るAI音声の人物が代わって「依頼人（息子）を助けるためには今すぐ保釈金が必要です」と請求する巧妙な二段階詐欺が確認されています。
被害者は「息子の声だったので、まったく疑わなかった」と語っており、AIの精度の向上が悪質な詐欺の発生につながってしまっています。
銀行を装う音声に誘導されて送金したケース
国内では、山形鉄道が標的となったボイスフィッシング（音声フィッシング）詐欺の被害も報告されています。
本事例では、銀行を装った自動音声システムが電話をかけてきて、「お客様の口座で不審な取引が検出されました。口座を保護するために、今すぐATMで手続きを行ってください」と指示しました。
この自動音声はAIによって生成されたもので、本物の銀行のアナウンスと区別がつかないほど自然だったため経理担当者はフィッシングサイトと気付かず記載されたURLに入力し送金してしまったのです。
参考：朝日新聞 被害10億円近い可能性 山形銀行かたるフィッシング詐欺 県警捜査（2025年3月13日）
AI音声詐欺の手口とは？注意すべき4つの手口を解説
AI音声詐欺には、いくつかの典型的なパターンがあります。
手口を事前に知っておくことが、被害防止の第一歩です。
そこで本章ではAI音声詐欺の代表的な4つの手口を紹介します。
1.家族の声を学習して詐欺に誘導する
AI音声詐欺の手口の1つに、家族の声をAIで模倣して、親や祖父母に電話をかけるものが挙げられます。
詐欺グループは、ターゲットの家族がYouTubeやInstagram・TikTokなどのSNSに投稿した動画や音声から声を学習させます。
数分程度の音声データがあれば、本人に非常に近い声を生成できるAIツールが、現在では無料または低価格で入手できる状態になっています。
「お母さん、急に事故を起こしてしまって」「今、警察にいるんだけどお金が必要で」といったオレオレ詐欺と同じような手法のメッセージを伝え、暗号資産（仮想通貨）やギフトカードでの送金を要求するケースが多く報告されています。
2.職場や取引先を装って送金させる
企業を狙った手口も多く見られます。
CEOや上司の声をAIで再現し、経理担当者などに緊急の送金を指示するものがあります。
社長や上司から会計担当者に「今日中に○○円を振り込んでほしい。」といった一方的な指示で、確認する間もなく行動させることが特徴です。
この手口はビジネスメール詐欺（BEC）の音声版であり、取引先を装って「支払い口座が変わった」と伝え、詐欺グループの口座に振り込ませるケースも増えています。
3.知人を装ってお金を要求する
友人や知人の声を模倣して「今ちょっと困ってるんだけど、お金を送金してくれないか」と連絡が来るケースもあります。
SNSのアカウントが乗っ取られた上で、AI音声と組み合わせて使われる可能性もあるため注意が必要です。
AI音声に加えてディープフェイク映像（AIで生成した動画）まで組み合わせ、ビデオ通話中に本人の顔と声を同時に偽装するケースも報告されています。
生成AI技術の進化により、音声だけでなく顔まで偽装できる時代になっているため注意が必要です。
4.警察などを装ってお金を要求する
警察や検察、税務署といった公的機関を装うことで、被害者を心理的に追い詰め、冷静な判断を奪う手口もあります。
生成AIによって作られた公的機関の職員を名乗る声はリアリティがあり、焦らせる内容を伝えることも多く、思わず信じてしまうケースが後を絶ちません。
また、著名人や政治家のディープフェイク動画を使った投資詐欺も見受けられます。
音声だけでなく映像もAIで精巧に偽造し、有名人が実際に発言したかのような動画をSNSや動画サービスに拡散することで被害者を騙す手口です。
実際に、著名人を装った投資詐欺の被害は国内でも発生しています。
AI音声詐欺の被害を防ぐ最新の対策方法とは
凄まじいスピードで進化を遂げるAI音声詐欺ですが、未然にしっかりと対策を講じておくことで、詐欺に遭いにくくなります。
そこで、本章ではAI音声詐欺を防ぐおすすめの対策方法を解説します。
「不明な発信者」からの着信を拒否する
AI音声詐欺は知らない番号や非通知から電話がかかってくることがあります。
そこで、スマートフォンの設定を変更して、登録外の番号からの着信を自動で消音・拒否することは、有効な詐欺対策の1つです。
- iPhone：「設定」→「電話」→「不明な発信者を消音」をオンにする
- Android：「電話」アプリ→設定→「ブロック中の電話番号」→「不明な発信者」をオンにする
この設定を有効にすると、連絡先に登録されていない番号からの着信が自動的に消音され、ボイスメールに転送されます。
自身や家族の声を学習させないように注意する
AI音声詐欺では、AIが人間の声を学習するために「音声データ」を必要とします。
つまり、SNSや動画サービスに音声・動画を公開していると、詐欺グループにその声を学習させるリスクが生じます。
そこで、自身や家族の声が盗まれないようにするためにも以下の点に注意してください。
- SNSのアカウントを非公開設定にする
- 音声付きの動画・リール・ライブ配信を不特定多数に公開しない
- SNSに公開する際は、声は入らないよう編集する
リアルタイム詐欺警告（Android）を活用する
Googleでは、スマホの端末であるGoogle Pixel向けに「スパムと詐欺行為の検出機能」と呼ばれるサービスを提供しています。
この機能は、通話中にリアルタイムで会話内容を分析し、詐欺の疑いがある場合にアラートで警告するものです。
「かこって検索」またはGoogleレンズを用いることで、画面上に表示されたテキストや画像）を分析し、不正行為の兆候がないかも確認できます。
参考：Google Pixel のスパムと詐欺行為の検出機能で身を守る
怪しい電話は必ず本人に折り返す
AI音声詐欺では会話を通して詐欺に誘導するため、「電話を一度切り、自分で知っている番号（本人の携帯番号など）に折り返すこと」も対策につながります。
どれほど本物に近い声であっても、折り返して本人に確認すれば詐欺を未然に防げるでしょう。
また、家族間で事前に「合言葉」を決めておくことも非常に有効です。
「もし急にお金を要求する電話がかかってきたら、必ず○○という合言葉を聞く」と取り決めておけば、AI音声は合言葉を知らないため詐欺を見抜くことができます。
AI音声詐欺に遭ってしまったらどうする？
もしもAI音声詐欺の被害に遭ってしまったら、どのように対応すれば良いでしょうか。
詐欺はAI音声詐欺に限らず、速やかに相談を開始することが重要です。時間が経つほど被害の回復が難しくなります。
そこで、本章では被害後の対応をわかりやすく解説します。
金融機関に連絡して口座凍結・不正送金停止を依頼する
不正送金が発生した場合、まず最初に行うべきことは金融機関への連絡です。
銀行は「振り込め詐欺救済法」に基づき、詐欺に利用された口座の凍結・停止措置を取ることができます。
例として、三井住友銀行では、フィッシング詐欺や振り込め詐欺の被害に遭った場合の専用相談窓口を設けており、「不正送金の停止依頼」を受付しています。
三井住友銀行以外でも、各金融機関には同様の緊急窓口が設けられていますので、すぐに取引銀行の窓口またはフリーダイヤルに連絡しましょう。
参考：三井住友銀行 STOP！みんなで防ごう不正送金被害
証拠を必ず保存する
被害に気付いたら、証拠を保存しましょう。
- 着信履歴（発信元の電話番号）のスクリーンショット
- 通話録音（可能であれば）
- 送金先の口座番号・振込明細・ATMのレシート
- 詐欺グループ側とのSNS・チャットのやり取りのスクリーンショット
- 被害発生の日時・状況のメモ
警察への被害届の際や弁護士への相談、また犯人の特定・被害回復において、証拠は非常に重要な役割を果たします。
警察に相談する
被害に遭った場合は、すぐに最寄りの警察署または警察相談専用電話（#9110）に相談してください。
また、緊急を要する場合（怪しい電話が続いているなど）は、110番への通報も検討しましょう。
警察への被害届が受理されると、捜査が開始されます。
また、同様の手口による被害の防止や、詐欺グループの特定・逮捕につながる可能性もあります。
「少額だから恥ずかしい」「騙された自分が悪い」と思って泣き寝入りすることなく、被害を申告することが大切です。
弁護士に相談する
AI音声詐欺の被害に遭った場合、弁護士に相談することで以下のようなサポートを受けられます。
- 犯人特定のための情報収集や情報開示請求の手続き
- 不正送金先の口座名義人に対する損害賠償請求の法的手続き
- 二次被害（回収業者詐欺など）を防ぐためのアドバイス
詐欺被害の法的手続きは複雑で、専門的な知識が必要です。
「被害回復は難しい」と思われがちですが、弁護士が介入することで解決できるケースも少なくありません。
まずは無料相談を活用し、専門家にご相談ください。
AI音声詐欺に関するよくある質問
AI音声詐欺はまだ新しい詐欺の種類のため、詳細についてわからず不安を抱えている方も多いでしょう。
そこで、本章ではAI音声詐欺に関連するよくある質問を紹介します。
自動音声詐欺とは何ですか？
自動音声詐欺とは、事前に録音または自動生成された音声メッセージを使って、多数の相手に自動的に電話をかけて騙す詐欺の手口です。
AI技術の進歩により、最近では単純な録音ではなく、相手の返答に応じて自然に受け答えができる「対話型AI音声」を使った詐欺も増えています。
「お客様の口座が危険です」「当選しました」などのメッセージで被害者を騙し、個人情報や金銭を奪おうとします。
AIによるボイスチェンジャーも違法ですか？
AIボイスチェンジャーとは、自身などの声を別の異性やキャラクターに変換するツールを意味します。
こうしたツールは決して違法ではなく、エンターテインメントや音楽制作など合法的な目的で広く使われているツールです。
したがって、ツール自体の所持や利用は直ちに違法とはなりません。
しかし、他人の声を無断で模倣して詐欺に使用する行為は、詐欺罪（刑法246条）などに問われる可能性があります。
AIの詐欺電話に特徴はありますか？
AI音声詐欺の電話には、以下のような特徴が見られることがあります。
- 不自然な間（ポーズ）や、会話の流れが機械的に感じられる場合がある
- 自然な相づちや方言の使い方がぎこちない
- 「合言葉は？」「昨日の夕飯は何だった？」など、個人的な質問には答えられない
- 考える時間を与えないようにする
こうした特徴が見られたら、すぐに電話を切りましょう。
「少しでも不自然だな」と感じた電話は、いったん切って本人の番号に折り返すことを徹底してください。
AI音声詐欺のお悩みは大地総合法律事務所へ
「AI音声詐欺に遭ってしまったが、どうすればいいかわからない」
「家族が被害に遭ったようだが、お金は戻ってくるのか」
こうしたお悩みを抱えている方は、ぜひ大地総合法律事務所にご相談ください。
大地総合法律事務所は、詐欺被害の法的対応に豊富な経験を持つ弁護士が在籍しており、被害回復に力を入れています。
まずはお気軽にお問い合わせください。
弁護士法人大地総合法律事務所 代表弁護士
佐久間 大地
紛争は人と人との間で起こります。それは法人間の紛争であっても同じです。そして、人には感情があり、立場があります。
紛争解決、説得の１つのツールとして、法律という理屈を駆使することはもちろんですが、常に、人の感情、立場に配慮した業務を行うよう精進しております。
詐欺被害救済といえば「大地総合法律事務所」と認知していただけるよう、所員一同、プロフェッショナル集団として、常に研鑽を積んで参ります。