ディープフェイクとは何か
本章は、ロサ・メンデスが上司のポール・エドワーズから電話を受ける場面で始まります。「5時までに新しい口座へ支払いを。いつもの承認は待たなくていい」。声はポールそのものですが、実はコンピューターが合成した声でした。ディープフェイクとは、本人の実際の音声や映像をもとに作られた偽の声・画像・動画のことで、いわば現代の偽造です。公開動画やウェビナーの録画、留守番電話の応答メッセージなど、数分の音声があれば材料として足りることもあります。
つまり、声や顔に聞き覚え・見覚えがあることは、もはや相手が本人である証拠になりません。電話の大半は本物ですが、「知っている声だ」は確認の終わりではなく始まりです。また本書は、真似される人はあくまで「衣装」にすぎず、本当の標的はお金を動かしたり権限を渡したりできる受け手の側だと指摘します。注目すべきは声の出来栄えではなく、何を頼まれているかです。
「上司の声」で来る電話
経理や事務の担当者に届くディープフェイクの電話には、決まった型があります。信頼している人の声、急がせる理由、「まだ誰にも言わないで」という口止めや連絡の取りにくさ、そしてお金や権限を動かす具体的な依頼です。この4つが一本の電話にそろったら、声がどれほど本物らしくても警戒を強めてください。手口はビジネスメール詐欺と同じで、メールが電話に置き換わっただけです。
声は文章よりも人の警戒心を解きます。リアルタイムで感情をのせて届き、その場で返事を求めてくるからです。犯人が突いているのは判断力ではなく、人の役に立ちたい気持ちや、もめごとを避けたい気持ちです。声が本物かどうかを見極める必要はありません。確認の手順を飛ばそうとしている依頼だと気づき、飛ばさなければよいのです。
落ち着いて、かけ直す
対策は、丁寧に応じていったん電話を切り、社内名簿の番号や社内チャット、本人の席など、自分がもともと信頼している経路で本人に連絡することです。連絡がつかなければ支払いは待ちます。本物の支払いが少し遅れて困ることはまずありませんが、詐欺は多くの場合それで止まります。犯人がコントロールできるのは今つながっている電話だけで、あなたが選んだ別の経路ではありません。
ただし本書は、かけ直しは強力な一層であって万能ではないと念を押します。番号の転送やアカウントの乗っ取りもあり得るため、承認手続きや職務の分離と組み合わせて使います。重要な依頼のための合言葉や社内ルールを決めておくこと、「これは急いで一人でお金を動かす依頼だ」と自分に言い聞かせることも役立ちます。ロサが名簿の番号でポールにかけ直すと、本人は支払いのことを何も知りませんでした。セキュリティ責任者のアイコ・タナカによれば、声は登壇したパネル討論の録音から複製された可能性が高いとのことでした。
文章が上手になった詐欺メール
これまで、フィッシングメールは誤字や不自然な言い回しで見分けられると教えられてきました。しかしこの近道はもう通用しません。詐欺師も一般の人と同じAIの文章作成ツールを使い、どの言語でも流暢で丁寧な、時には個人に合わせた文面を数秒で作れるからです。
代わりのルールは、文章の上手さではなく「何を、どのように頼んでいるか」で判断することです。振込先の変更、ログインリンクのクリック、ギフトカードの購入を急かすメールは、文章が見事でも危険性は同じで、むしろ説得力がある分だけ厄介です。AIは言葉を磨けても、お金やパスワード、データを求めるという依頼の中身までは変えられません。
ビデオ会議、大量化、そして落ち着いて構えること
画面に映る見慣れた同僚の一部が偽物というビデオ会議を使った詐欺も起きています。会議の場で断るのは気まずく感じますが、画面の顔は電話の声と同じく証拠にはなりません。重要で取り消せない依頼は、会議の後に別の信頼できる経路で確認します。AIは個人向けの詐欺メッセージを大量に作ったり、自動で会話を続けたりもできるため、詐欺が増えたと感じるのは気のせいではありません。それでも、偽物が一つでも一万でも、止める習慣は同じです。
本章は、怖がることを勧めてはいません。技術が変えたのは衣装であって、手口そのものではありません。信頼する人になりすまし、急がせ、取り消せない行動へ押し出すという本質は昔のままです。コンピューターを見抜く競争に参加する必要はなく、信頼できる経路で確認するまで重要な依頼に応じなければよいのです。
KEY POINTS
要点
- 知っている声や顔であることを、本人確認の終わりではなく始まりと考える。
- 信頼している声、急ぎ、口止め、お金や権限の依頼がそろったら警戒を強める。
- 急ぎの依頼は丁寧に電話を切り、社内名簿の番号でかけ直してから対応する。
- 信頼できる経路で本人に連絡がつかないときは、支払いを待ってもらう。
- メールは文章の上手さではなく、何を求めているかで判断する。
- ビデオ会議で受けた重要な依頼は、会議後に別の経路で確認する。
QUESTIONS
よくある質問
- ディープフェイクを使った音声詐欺とはどのようなものですか
- 上司など特定の人物の実際の録音をソフトウェアに学習させ、その人の声で新しい発言を作り出す手口です。その声で担当者に電話をかけ、急ぎの支払いや登録情報の変更を求めます。公開動画やウェビナー、留守番電話の短い音声でも材料になり得ます。
- 上司からの電話がディープフェイクかどうか、どう見分ければよいですか
- 本書は、見分けようとしないことを勧めています。信頼している声、急ぎ、口止め、お金や権限を動かす依頼という型に気づいたら、いったん電話を切り、社内名簿などもともと知っている番号で本人にかけ直します。連絡がつかなければ、依頼は待ってもらいます。
- 知っている番号へのかけ直しだけでディープフェイク詐欺は防げますか
- 強力な対策ですが、完全ではありません。電話の転送やアカウントの乗っ取り、名簿の改ざんもあり得るからです。お金や権限を動かす依頼には、社内の承認手続きや職務の分離、別経路での確認を組み合わせます。一つの確認されていない依頼だけで重要な処理が進まないようにすることが目的です。
- 誤字や不自然な日本語でフィッシングメールを見分けられますか
- もう当てにはできません。詐欺師はAIツールを使い、どの言語でも自然で正確な、時には個人に合わせた文章を作れます。支払い、ログイン、パスワード、機密データを求めていないか、急ぎや口止めを伴っていないかという依頼の中身で判断してください。
- ビデオ会議の相手も偽物の可能性はありますか
- あります。リアルタイムの映像も音声と同じように偽造でき、画面上の同僚が偽物だったという詐欺も起きています。動きのぎこちなさや照明の不自然さ、口の動きと声のずれが手がかりになることもありますが、それに頼らず、重要な依頼は会議の後に別の信頼できる経路で確認します。
- 合言葉はチームで決めておくべきですか
- 重要な依頼に備えて決めておくと役立ちます。部外者が知り得ず、録音からも引き出せないものであれば十分です。「電話での想定外の支払い依頼は、必ず対面か社内チャットで確認する」というルールも同じ働きをします。家族の声を複製してお金を求める詐欺に備え、家庭で合言葉を決める方法もあります。