家族や有名人の声、本人そっくりの動画、自然な日本語で書かれたメール――。生成AIの進化によって、これまでなら「どこか不自然」と気づけた詐欺も、見た目や声だけでは判断しにくくなっています。
突然、家族の声で「事故を起こしたからお金が必要」と電話がかかってきたり、有名人が投資を勧める動画がSNSに流れてきたりすると、信じてしまいそうになりますよね。
しかし、声や映像が本物らしくても、話の内容まで本物とは限りません。
この記事では、AIを悪用した詐欺に見られる特徴、偽音声・ディープフェイク・詐欺メールの確認方法、被害に遭ってしまった場合の対処法を、初心者の方にもわかりやすく解説します。
結論：声や映像ではなく「要求の内容」で判断する
AIで作られた音声や動画は精巧になっており、見た目や声だけで偽物を見抜くのは難しくなっています。
次のような要求があった場合は、相手が家族や知人に見えても、その場で応じないでください。
- 今すぐお金を振り込んでほしい
- 家族や警察には相談しないでほしい
- 電子マネーカードや暗号資産で支払ってほしい
- パスワードや認証コードを教えてほしい
- 指定したアプリをインストールしてほしい
- メールやメッセージ内のリンクからログインしてほしい
いったん電話やメッセージを終了し、普段使っている電話番号や公式サイトなど、別の連絡手段から本人確認を行うことが大切です。
AIを悪用した詐欺とは？
AIを悪用した詐欺とは、生成AIなどを使って文章・音声・画像・動画を作り、家族や知人、企業、有名人、公的機関などになりすまして金銭や個人情報をだまし取る手口です。
従来の詐欺メールには、不自然な日本語や不鮮明な画像が見られることがありました。しかし、生成AIを使えば、自然な文章や本人に似た声・映像を短時間で作れる可能性があります。
大切なのは、「本物そっくりだから信用する」のではなく、突然の送金や情報提供を求められた時点で立ち止まることです。
AIを悪用した代表的な詐欺
家族や知人の声をまねた偽音声
家族や知人の声に似せた音声を使い、緊急事態を装ってお金を求める手口です。
たとえば、次のような内容で不安をあおります。
- 事故を起こして示談金が必要
- 財布やスマートフォンをなくした
- 会社のお金を使い込んでしまった
- 逮捕されそうなので助けてほしい
- 病院にいて、すぐに費用が必要
SNSや動画サイトに公開された短い音声が、声を似せるための材料として使われる可能性もあります。
声が本人に聞こえても、いったん電話を切り、以前から知っている本人の電話番号へかけ直してください。電話を切らせないようにしたり、「誰にも言わないで」と口止めしたりする場合は、特に注意が必要です。
有名人や専門家を装ったディープフェイク動画
ディープフェイクとは、AIを使って人物の顔や声を合成し、本人が実際には話していない内容を話しているように見せる技術です。
SNSでは、有名人・経営者・投資家・医師などが、特定の商品や投資を勧めているように見える動画が使われることがあります。
次のような広告や動画には注意してください。
- 「必ずもうかる」「元本保証」などと断定している
- 有名人が無料の投資グループへ勧誘している
- LINEなど、別の連絡手段へ移動させようとする
- 専用の投資アプリをインストールさせる
- 個人名義の口座へ振り込ませる
- 出金しようとすると、税金や手数料を追加請求される
動画の口元や瞬きに違和感がなくても、本物とは限りません。本人や所属組織の公式サイト・公式アカウントに同じ案内が掲載されているか、必ず別に確認しましょう。
自然な文章で届く詐欺メールやSMS
生成AIを使うと、誤字が少なく、丁寧で自然な文章を作れます。そのため、「日本語がおかしくないから本物」とは判断できなくなっています。
銀行、通販サイト、宅配業者、カード会社、公的機関などを名乗り、次のような言葉で操作を急がせるのが典型的な手口です。
- アカウントが停止されます
- 不正利用を確認しました
- 本日中に本人確認が必要です
- 未納料金があります
- 荷物を配達できませんでした
- 還付金を受け取れます
メールやSMSに記載されたURLや電話番号は使わず、自分で公式アプリを開くか、登録済みのブックマークや公式サイトから状況を確認してください。
SNSで近づく投資・ロマンス詐欺
生成AIや翻訳ツールを使えば、自然な会話を長期間続けることも可能です。SNSやマッチングアプリで親しくなった相手から、投資・暗号資産・結婚費用などの名目でお金を求められた場合は注意してください。
プロフィール写真が本物らしく、毎日丁寧なメッセージが届いても、相手の身元が確認できたことにはなりません。
一度も直接会ったことのない相手からお金や投資の話が出た場合は、詐欺を疑いましょう。
AI詐欺を見分ける7つのチェックポイント
1．緊急性を強調して考える時間を与えない
「今すぐ」「今日中」「あと10分」などと急がせるのは、冷静な確認をさせないためです。期限を示されても、いったん操作を止めましょう。
2．家族や周囲への相談を止める
「秘密にして」「警察に言うと逮捕される」など、相談を妨げる言葉が出た場合は危険なサインです。
3．通常とは異なる方法で支払いを求める
電子マネーカード、暗号資産、個人名義の口座、知らない決済アプリなどを指定された場合は注意が必要です。
4．パスワードや認証コードを聞いてくる
正規の企業や金融機関が、電話やメールでパスワード、暗証番号、SMSに届いた認証コードを尋ねることは通常ありません。
5．メールやメッセージ内のリンクから操作させる
表示されている会社名や送信者名は偽装できる場合があります。リンクを押さず、公式アプリや自分で検索した公式サイトから確認しましょう。
6．本人確認を別の方法で行わせない
「電話を切らないで」「このチャットだけで連絡して」など、別の連絡手段を使わせない場合は要注意です。
7．話がうますぎる、または怖すぎる
「絶対にもうかる」「あなただけ特別」と期待をあおる手口と、「逮捕される」「口座が凍結される」と恐怖をあおる手口があります。感情を大きく動かされたときほど、判断を保留してください。
本人かどうかを安全に確認する方法
いったん連絡を終了する
電話なら切り、メールやSNSなら返信を止めます。相手に急かされても、その場で結論を出す必要はありません。
普段使っている連絡先へかけ直す
着信履歴の番号をそのまま使わず、スマートフォンの連絡先に保存してある番号や、以前から知っている番号へかけ直します。
企業や警察を名乗る場合も、相手が教えた番号ではなく、自分で確認した公式番号を利用してください。着信画面に実在する電話番号が表示されていても、それだけで本物とは判断できません。
家族で「合言葉」を決めておく
家族にしかわからない合言葉や質問を決めておく方法もあります。
ただし、誕生日、住所、ペットの名前など、SNSや会話から推測できる情報は避けましょう。合言葉は定期的に変更し、SNSに書かないことも大切です。
別の家族や信頼できる人に相談する
一人で判断しないことも大きな防御になります。家族、友人、勤務先などに状況を説明すると、不自然な点に気づきやすくなります。
不審な電話・メール・動画が届いたときの対応
不審な電話の場合
- 個人情報や口座情報を伝えず、電話を切る
- 本人や組織の公式番号へ自分からかけ直す
- 着信番号、日時、話の内容を記録する
- 必要に応じて家族や警察へ相談する
不審なメールやSMSの場合
- 本文中のリンクを押さない
- 添付ファイルを開かない
- 記載された電話番号へ連絡しない
- 公式アプリや公式サイトから状況を確認する
- 詐欺メールとして報告し、削除する
不審な動画や広告の場合
- 広告内のリンクを押さない
- 動画を掲載しているアカウントの開設時期や過去の投稿を確認する
- 本人や所属組織の公式サイト・公式アカウントを確認する
- 投資や商品の名称を別に検索する
- SNSの通報機能から報告する
すでに操作してしまった場合の対処法
リンクを開いただけの場合
リンクを開いただけで、情報の入力やアプリのインストールをしていなければ、直ちに被害が発生しているとは限りません。
ページを閉じ、ブラウザの通知を許可していないか、不審なファイルがダウンロードされていないかを確認してください。
IDやパスワードを入力した場合
正規サイトまたは公式アプリを自分で開き、該当するパスワードを速やかに変更します。同じパスワードをほかのサービスでも使用している場合は、そちらも別々のパスワードへ変更してください。
可能であれば、ログイン履歴や登録情報を確認し、見覚えのない端末をログアウトさせ、2段階認証やパスキーを設定します。
クレジットカードや口座情報を伝えた場合
カード会社や金融機関の公式窓口へ、すぐに連絡してください。不正利用の確認、カードの停止、口座の保護など、必要な対応を案内してもらえます。
お金を振り込んだ場合
振込先の金融機関と警察へ、できるだけ早く連絡します。振込記録、相手とのメッセージ、電話番号、広告やプロフィールの画面などは、削除せず保存してください。
アプリをインストールした場合
遠隔操作アプリや不審なアプリを入れた場合は、インターネット接続を切り、その端末からネットバンキングや買い物をしないでください。
別の安全な端末から金融機関や関係サービスへ連絡し、必要に応じてIPAの情報セキュリティ安心相談窓口やパソコンメーカーなどへ相談しましょう。
被害や不安があるときの相談先
- 警察相談専用電話：#9110
- 緊急性がある、被害が続いている場合：110
- 消費者ホットライン：188
- 金融被害：利用している銀行・カード会社の公式窓口
- パソコンやスマートフォンのセキュリティ相談：IPA 情報セキュリティ安心相談窓口
「まだ被害に遭ったか分からない」という段階でも相談できます。一人で抱え込まず、早めに確認することが大切です。
AI詐欺を防ぐために家族で決めておきたいこと
AI詐欺は、機械の設定だけで完全に防げるものではありません。家族で次のルールを決めておくと安心です。
- お金の依頼は、必ず一度電話を切って確認する
- 認証コードや暗証番号は、家族同士でも送らない
- 緊急時に本人確認できる合言葉を決めておく
- 高額な送金や契約は、一人で決めない
- 不審な電話やメッセージが来たら共有する
- SNSで住所、電話番号、家族構成などを公開しすぎない
セキュリティソフトや迷惑電話対策機能も役立ちますが、すべての詐欺を自動で見抜けるわけではありません。「急な送金依頼は別の方法で確認する」という習慣が、最後の防波堤になります。
よくある質問
Q. 声を聞けばAIによる偽音声か分かりますか？
A. 音質や話し方に違和感が出る場合もありますが、声だけで確実に判断するのは困難です。本人のいつもの電話番号へかけ直すなど、別の方法で確認してください。
Q. ビデオ通話なら本人だと信用できますか？
A. 映像があるだけで本人とは断定できません。重要なお金や個人情報の話が出た場合は、いったん通話を終了し、別の連絡手段で確認しましょう。
Q. 家族から本当に緊急の電話だったらどうすればよいですか？
A. いったん電話を切っても、普段の番号へすぐにかけ直せます。連絡が取れない場合は、別の家族や勤務先など、信頼できる連絡先から状況を確認してください。
Q. セキュリティソフトを入れていれば防げますか？
A. 危険なサイトや不審なファイルを検知できる場合はありますが、電話やSNS上の会話で人をだます手口まですべて防げるわけではありません。ソフトの利用と本人確認の習慣を組み合わせることが大切です。
まとめ
AIを悪用した詐欺では、家族の声、有名人の動画、企業からのメールなどが、本物そっくりに作られる可能性があります。
そのため、声や映像の不自然さを探すだけでは十分ではありません。
- 急な送金や個人情報の要求には応じない
- その場で判断せず、いったん連絡を終了する
- 普段の電話番号や公式サイトから確認する
- メールやSMS内のリンクを使わない
- 家族で合言葉や確認ルールを決めておく
- 被害に遭った場合は金融機関や警察へ早めに連絡する
「本物かもしれない」と迷ったときほど、別の方法で確認することが大切です。AIを怖がりすぎる必要はありませんが、見た目や声だけを信用しない習慣を身につけておきましょう。
参考情報
- 警察庁：SNS型投資詐欺
- 警察庁：SNS型ロマンス詐欺
- IPA：メールの見かけ上の送信元情報を安易に信じないで
- IPA：インターネットサービスへの不正ログインによる被害が増加中
- 国民生活センター：そのメール、フィッシング詐欺！
- FTC：AIを悪用した家族の緊急事態を装う詐欺
