生成AIの普及で、偽のメールや音声、動画を作るコストと精度が変わり、詐欺は誰にでも起きうる身近なものになりました。取引先からの送金依頼、上司からのビデオ通話、いつも使うショッピングサイト——その相手や画面が本物だと言い切れるでしょうか？ この記事を読むと、ディープフェイクやフィッシング、偽サイト誘導といった手口の違いが分かり、見た目や声だけに頼らず、別の経路で確認してから動くための判断基準を持てます。さらに、被害統計を出典ごとに読み分ける見方も身につきます。
この記事の要点
（最終更新：2026年10月7日）
あなたのAI時代適応度は？
3分で診断・具体的なロードマップを提示
生成AIは詐欺の何を変えたのか、従来の手口と何が違う
図：従来の詐欺と生成AI詐欺の違い（出典：[3]）
生成AIの普及によって、詐欺の手口は大きく変化しました。まず前提として、AI詐欺とは、生成AIなどの技術を悪用して人をだまし、金銭や情報を不正に得ようとする行為を指すとされています[3]。従来の詐欺との違いは、偽造のコストと精度にあります。
これまで高度なサイバー攻撃は、専門的な知識や技術をもつ一部の攻撃者に限られていました[3]。しかし生成AIを使うことで、誰でも比較的容易におこなえるようになったとされています[3]。攻撃は巧妙であるうえ、自動化によって大量に仕掛けることが可能になりました[3]。その結果、フィッシング詐欺やマルウェア開発といった犯罪のハードルが下がり、実際に被害につながる事件が世界中で増加しているとされています[3]。
具体的に、何が変わったのでしょうか。
声や顔が本人と酷似しているため、ビデオ通話であっても不自然さに気づくことは非常に困難とされています[3]。信頼している人物からの連絡という心理的な隙を突く、極めて悪質な手口といえます[3]。
画面の向こうにいる「いつもの人」が、本当にその人だと言い切れるでしょうか。
あなたの声や顔が偽造される時代——AI詐欺の事例には何がある
図：生成AIを悪用した主な詐欺手口（出典：[3][7]）
生成AIの普及により、高度なサイバー攻撃のハードルが下がり、誰でも比較的容易に攻撃を行えるようになったとされています[3]。攻撃は巧妙化し、自動化によって大量に仕掛けられる点が特徴です[3]。ここでは、報告されている典型的な手口を類型別に紹介します。
まず、ディープフェイク技術による音声や動画のなりすましがあります[3]。深層学習を用いて本物そっくりの音声や動画を合成する技術であり、組織の経営者や上司になりすまして偽の送金指示を出すビジネスメール詐欺などの被害が深刻化しています[3]。2024年には、AIで作成された偽のテレビ会議に経理担当者が参加させられ、多額の送金を行ってしまった事例が報告されています[3]。声や顔が本人と酷似しているため、ビデオ通話であっても不自然さに気づくことは非常に困難とされています[3]。
次に、SNS上での偽情報の拡散があります[3]。生成AIは、もっともらしい嘘のニュース記事や偽の画像を簡単に作成できます[3]。これらはフェイクニュースとしてSNSなどで拡散され、世論操作や社会的な混乱を引きおこす目的で悪用されることがあります[3]。特に、選挙期間中の候補者に関する偽のニュースや、災害時に不安を煽る情報の拡散は、社会に大きな混乱をもたらしかねません[3]。
投資勧誘に関連する手口としては、偽のWebストアを用いた詐欺サイトの構築が挙げられます[7]。従来は高度な専門知識が必要でしたが、大規模言語モデルの登場により参入障壁が格段に下がりました[7]。コード、画像、音声を組み合わせた詐欺キャンペーン全体を生成し、何百ものユニークなWebサイトや対応するソーシャルメディア広告を構成することが可能とされています[7]。また、生成AIは標的との間の言語の壁を取り除くツールとしても利用され、会話で用いられるテキストメッセージの生成や、偽の自撮り画像の作成、電話詐欺における合成音声の使用例も報告されています[7]。
さらに、フィッシングメールの自動生成も典型的な手口です[3]。生成AIを使ったフィッシングメールは、極めて自然で流暢な文章を自動で生成できます[3]。ターゲットの業種や役職、過去のやり取りといった情報にあわせて文面を最適化し、本物のビジネスメールと見分けがつきにくいのが特徴です[3]。これにより、受信者は疑いをもちにくく、添付ファイルの開封や偽サイトへの誘導といった詐欺被害にあう可能性が高まります[3]。
こうした手口に共通するのは、私たちが日ごろ信頼している声や顔、そして見慣れた画面越しのやり取りが、そのまま武器になり得るという点です。
ディープフェイク詐欺はなぜ見破りにくいのか、人の認知の弱点
図：ディープフェイク詐欺が見破りにくい理由と手がかり（出典：[3]）
ディープフェイクとは、深層学習を用いて本物そっくりの音声や動画を合成する技術を指します[3]。この技術を悪用し、組織の経営者や上司になりすまして偽の送金指示を出すビジネスメール詐欺の被害が深刻化しています[3]。2024年には、AIで作成された偽のテレビ会議に経理担当者が参加させられ、多額の資金を振り込んでしまった事例が報告されています[3]。
なぜ、これほど見破りにくいのでしょうか。理由の一つは、声や顔が本人と酷似しているため、ビデオ通話であっても不自然さに気づくことが非常に困難である点です[3]。加えて、信頼している人物からの連絡だという心理的な隙を突かれることも、判断を鈍らせる要因になります[3]。
映像そのものにも、気づきにくい手がかりが潜んでいます。動画内の人物の瞬きが異常に少ない、顔の輪郭や影の動きに違和感がある、肌の質感が不自然に滑らかである、といった点が挙げられています[3]。音声の場合も、感情がこもっていない、イントネーションがおかしいといった特徴がみられることがあります[3]。
ただし、近年のディープフェイク技術の進歩により、偽の動画や音声を完全に見破ることは難しくなっています[3]。つまり、見た目や声だけを頼りに真偽を判断する方法には限界があるということです。違和感を覚えたらすぐに信じず、複数の情報源を確認することが大切だとされています[3]。
画面の向こうの「いつもの人」が、本当にその人だと言い切れるでしょうか。
自分の目と耳を信じていいのか、AI詐欺の見分け方を日常の手順に
図：AI詐欺を見抜く日常の確認手順（出典：[3]）
映像や音声で知人や上司を名乗る連絡が届いても、その見た目や声が本物とは限らない時代になりました。生成AIを用いたディープフェイクは、深層学習で本物そっくりの音声や動画を合成する技術であり、これを使って経営者や上司になりすまし、偽の送金指示を出すビジネスメール詐欺の被害が深刻化しています[3]。2024年には、AIで作成された偽のテレビ会議に経理担当者が参加させられ、多額の資金を振り込んでしまった事例も報告されています[3]。声や顔が本人と酷似しているため、ビデオ通話であっても不自然さに気づくことは非常に困難とされています[3]。
とはいえ、注意深く観察することで違和感に気づける場合があります。動画では、人物の瞬きが異常に少ない、顔の輪郭や影の動きに違和感がある、肌の質感が不自然に滑らかであるといった点が挙げられています[3]。音声では、感情がこもっていない、イントネーションがおかしいといった特徴がみられることがあります[3]。ただし、こうした特徴はあくまで手がかりの一つであり、これだけで見破れるとは限りません。近年の技術の進歩により、偽の動画や音声を完全に見破ることは難しくなっているためです[3]。
そこで有効なのが、見た目や声だけで判断せず、別の経路で確認するという手順です。送金や個人情報の提供を求められた場合は、いったんその場を離れ、普段から使っている連絡先へ自分から掛け直して事実を確かめる、という流れを習慣にしておくとよいでしょう。メールやSNSで届いたURLも、安易にクリックしないことが基本です[3]。送信元のアドレスが公式なものと一致しているか、URLのドメインに不審な点はないかを確認する習慣が勧められています[3]。少しでも怪しいと感じたら、ブックマークや公式アプリなど、信頼できる経路からサイトにアクセスし、情報の真偽を確かめることが重要とされています[3]。
日々の暮らしの中で、急かされる連絡ほど一度立ち止まる。その小さな間が、あなたと大切なものを守る最初の壁になります。
生成AIの回答を信じたのに、なぜ危険サイトへ誘導されるのか
図：生成AI経由で確認された危険サイト誘導（出典：[5]）
生成AIの回答に示されたリンクをそのまま開いたところ、偽のショッピングサイトに誘導されていた——こうした事例が確認されています[5]。ある調査では、2026年2月のデータを分析した結果、生成AIの回答を経由して少なくとも422件の危険サイトへの誘導が確認されました[5]。危険サイトには、偽ショッピングサイト、詐欺サイト、フィッシングサイト、不正プログラム配信サイト、違法または禁止されたコンテンツなどが含まれています[5]。
検証では、動画生成AIについての公式サイトのURLを尋ねる質問を複数回繰り返したところ、公式サイトではない詐欺サイトのURLが提示される場合があったとされています[5]。これは生成AIが事実とは異なる情報を生成する「ハルシネーション」が起きている可能性があり、複数の利用者が同じ詐欺サイトへ誘導されていたことも確認されています[5]。
また、特定の商品を販売しているWebサイトを尋ねた際に、回答へ偽ショッピングサイトへのリンクが含まれていた事例も確認されています[5]。偽ショッピングサイトは正規の店舗に似たデザインを使ったり、公式の商品画像を流用したりする場合があり、一見しただけでは気づきにくいことがあります[5]。回答を信用して利用してしまうと、商品が届かない、個人情報やクレジットカード情報が悪用されるといった被害につながる可能性があります[5]。
検索結果に表示される「AIによる概要」でも、紹介されるWebサイトに偽ショッピングサイトが含まれている事例が確認されています[5]。背景として、検索結果を不正に操作する攻撃手法の影響が考えられており、AIがそうした情報を参照したことで誤った内容が生成された可能性があります[5]。
生成AIの回答や要約は、便利である一方で、必ずしも正確とは限りません[5]。ショッピングサイトを利用する際には、URLや運営者情報を確認するなど基本的な安全確認が重要とされています[5]。答えが整った文章で返ってくると、つい中身まで整っているように感じてしまわないでしょうか。
AI詐欺の被害統計は、出典でなぜここまで数字が変わるのか
AI詐欺の被害統計を目にすると、同じ時期の同じような手口でも、出典によって件数や金額がかなり違って見えることがあります。警察庁はサイバー警察局のページで、サイバー空間をめぐる脅威の情勢等についての資料を公表しています[1]。IPAは情報セキュリティのページで、安心相談窓口や調査・研究報告書などの情報を発信しています[2]。どちらも信頼できる公的な情報源ですが、それぞれのページが何を目的に、どの範囲の情報をまとめているかは同じではありません[1][2]。
数字の意味を考えるとき、まず確認したいのは「何を数えた数字なのか」という点です。警察庁の資料は、サイバー空間をめぐる脅威の情勢等について公表するものです[1]。IPAの情報は、相談窓口や調査・研究報告書など、複数の種類の情報を含みます[2]。つまり、一方は脅威の情勢を示す資料であり、他方は相談対応や調査研究を含む情報であり、同じ「AI詐欺」に関わる数字でも、集計の目的や対象が異なり得ます[1][2]。
報道で示される数字を読むときは、その数字がどの機関の、どの資料に基づくものかを確かめることが大切です。警察庁のページとIPAのページでは、公表している資料の種類も、更新のされ方も同じではありません[1][2]。数字の大小だけを比べても、実態の違いなのか、集計方法の違いなのかは判断できません[1][2]。
日本では、警察庁とIPAという複数の機関が、それぞれの立場でサイバー関連の情報を出しています[1][2]。これは、被害の全体像を一つの数字で表すのが簡単ではないことの表れとも言えます。数字を眺めるとき、その数字が何を映しているのかを一緒に確かめる習慣が、日々の判断を落ち着いたものにしてくれるのではないでしょうか。
あなたのAI時代適応度は？
3分で診断・具体的なロードマップを提示
怪しいと感じた今日、誰に相談し何を設定しておくか
怪しいと感じたときは、一人で判断せず、まず相談先を思い出してください。警察庁のサイバー警察局は、サイバー空間に関する相談窓口等の情報を掲載しています[1]。IPA（独立行政法人情報処理推進機構）も、情報セキュリティ安心相談窓口を設けています[2]。生成AIチャットボットの回答を経由して危険サイトへ誘導される事例が確認されており、偽ショッピングサイトや詐欺サイト、フィッシングサイトなどが含まれていたとされています[5]。こうしたサイトでは、商品が届かない、個人情報やクレジットカード情報が悪用されるといった被害につながる可能性があります[5]。
家族間の合言葉を決めておくことも一案です。電話やメッセージでお金や個人情報の話が出たとき、あらかじめ決めた言葉を確認できなければ、その場で手続きを進めないというルールです。これは出典に基づく対策ではありませんが、判断を急がされるときの歯止めとして役立ちます。
二段階認証の設定も今日から取れる行動です。ログインの際にパスワードだけでなく、別の確認手段を求める仕組みで、不正アクセスの被害を減らす効果が期待されています。ただし、具体的な設定方法は利用するサービスごとに異なるため、各サービスの案内に従ってください。
怪しいと感じた今日、誰に相談し、何を設定しておくか。その小さな準備が、明日の被害を防ぐ一歩になります。
編集長の眼
生成AIは、私たちの暮らしを便利にする一方で、信じてきた声や顔、見慣れた画面越しのやり取りを、そのまま詐欺の道具に変えてしまいました。これは、包丁が料理にも凶器にもなるのに少し似ています。道具そのものが悪いのではなく、使う側の意図と、受け取る側の備えが問われるのです。ただ、悲観ばかりしていても始まりません。私たちにできることは、それほど多くはないけれど、確かにあります。送金や個人情報の話が出たら一度立ち止まり、普段使っている連絡先へ自分から掛け直す。届いたURLは安易に開かず、公式アプリやブックマークから確かめる。怪しいと感じたら、警察庁やIPAの相談窓口を思い出す[1][2]。家族との合言葉や二段階認証も、今日からできる小さな備えです。技術の進歩を止めることはできませんが、急かされる連絡ほど一度止まるという習慣は、私たち自身で選び取れます。便利さに慣れていくほど、立ち止まる癖を意識的に持っておきたいものです。
よくある質問
Q. AI詐欺の被害に遭ったらどこに相談すればいいですか？
警察庁のサイバー警察局は、サイバー空間に関する相談窓口等の情報を掲載しています[1]。また、IPA（独立行政法人情報処理推進機構）も情報セキュリティ安心相談窓口を設けています[2]。怪しいと感じたときは一人で判断せず、これらの相談先を思い出してください[1][2]。
Q. ディープフェイクの音声や動画はどう見分ければいいですか？
動画では瞬きが異常に少ない、顔の輪郭や影の動きに違和感がある、肌の質感が不自然に滑らかであるといった点が挙げられています[3]。音声では感情がこもっていない、イントネーションがおかしいといった特徴がみられることがあります[3]。ただし近年の技術進歩により完全に見破ることは難しく、見た目や声だけで判断せず複数の情報源を確認することが大切です[3]。
Q. 生成AIの回答から偽サイトに誘導されることはありますか？
はい、確認されています。ある調査では、2026年2月のデータを分析した結果、生成AIの回答を経由して少なくとも422件の危険サイトへの誘導が確認されました[5]。危険サイトには偽ショッピングサイト、詐欺サイト、フィッシングサイトなどが含まれています[5]。回答を信用して利用すると、商品が届かない、個人情報やクレジットカード情報が悪用されるといった被害につながる可能性があります[5]。
Q. AI詐欺の件数は本当に増えているのですか？
生成AIの悪用により、フィッシング詐欺やマルウェア開発といった犯罪のハードルが下がり、実際に被害につながる事件が世界中で増加しているとされています[3]。ただし、警察庁とIPAでは集計の目的や対象が異なり得るため[1][2]、数字の大小だけを比べても実態の違いなのか集計方法の違いなのかは判断できません[1][2]。
関連する記録
出典・参考資料
- サイバー警察局｜警察庁Webサイト（参照日：2026年10月7日）
- 情報セキュリティ | IPA 独立行政法人 情報処理推進機構（参照日：2026年10月7日）
- AIが悪用される手口と対策｜生成AIによるリスクから身を守る方法 | SS1LAB（参照日：2026年10月7日）
- 生成AIチャットボットの回答から危険サイトへ誘導される事例を確認（参照日：2026年10月7日）
- AI の負の側面: 生成 AI が可能にした大規模詐欺（参照日：2026年10月7日）
記事監修： 鈴木隆文
誤りにお気づきの場合は、お問い合わせフォームからご連絡ください。