AIが詐欺師の「武器」になった時代
ワールドカップという世界規模のイベントは、昔からサイバー詐欺師にとって格好のターゲットだった。偽チケット販売、フィッシングメール、なりすましサイト——こうした手口は以前から存在していたが、正直なところ少し注意すれば見抜けるものが多かった。ところが最近、状況が根本的に変わってきている。生成AIの普及によって、詐欺のクオリティが人間の目では判断できないレベルにまで達しているのだ。
具体的に何が起きているかというと、まずAIを使った文章生成により、これまでのような不自然な日本語や英語の詐欺メールがほぼ消えた。以前は「あなたはチケットに当選しました」という怪しい文体でバレていたのが、今や公式プレスリリースと見分けがつかないほどの文章が自動生成される。さらに深刻なのが、ディープフェイク技術を使った動画広告だ。有名選手や公式スポンサー企業の幹部が「特別プロモーション」を紹介しているように見える動画が拡散されており、一般ユーザーがそれを本物と区別することはほぼ不可能に近い。
手口はどれほど進化しているのか
僕がこの問題を調べていて特に驚いたのは、詐欺師たちがAIをいかに組み合わせて使っているかという点だ。単にフィッシングメールを生成するだけでなく、SNSの公式アカウントに酷似した偽アカウントをAIで自動運営し、フォロワーを増やしながら信頼を積み上げた上で詐欺リンクを投下するという手法が確認されている。これはもはや個人の犯罪者が思いつくレベルではなく、組織化されたサイバー犯罪グループがAIをフル活用して展開していると考えるべきだろう。
また、AIチャットボットを使ったリアルタイム詐欺も増加している。公式カスタマーサポートを装ったチャット窓口に誘導し、クレジットカード情報や個人情報を聞き出す手口だ。応答速度も自然さも、もはや人間のオペレーターと区別がつかない。セキュリティ研究者たちはこれを「コンバーセーショナル・フィッシング」と呼んでおり、従来の静的なフィッシングページよりもはるかに成功率が高いと報告している。
私たちにできる現実的な対策
では、どう対処すればいいのか。技術的な解決策としては、AIを使って詐欺を検出するというアプローチが進んでいる。皮肉な話だが、AIで作られた詐欺をAIで見破るという構図だ。主要なブラウザや電子メールクライアントは、こうした検出機能の強化に取り組んでいる。しかし正直に言えば、現時点では攻撃側が優位な状況が続いている。
個人レベルでできることとして、僕が実践しているのはシンプルなルールだ。チケットや宿泊など金銭が絡む取引は、必ず公式サイトのURLを自分で直接入力して確認する。リンクをクリックして飛んだ先のサイトは、たとえ見た目が完璧でも信用しない。そして、急かす文言があれば即座に疑う。詐欺師は常に「今すぐ」という焦りを利用する。AIがどれだけ進化しても、人間の判断力と習慣は最後の砦になり得る。テクノロジーの進化を楽しみながらも、こうした側面から目を背けないことが、エンジニアとしても一人の生活者としても必要だと感じている。