AIチャットボットがフィッシングに有効であることが証明され、研究者は赤信号を発した。
2025-09-15 23:55
最近の研究で、高齢者をターゲットにした説得力のある詐欺メールを書くために、最新のチャットボットがいかに簡単に使用できるか、また、それらのメールがどれくらいの頻度でクリックされるかが示された。研究者たちは、Grok、OpenAIのChatGPT、Claude、Meta AI、DeepSeek、GoogleのGeminiなど、いくつかの主要なAIチャットボットを使ってフィッシング詐欺のシミュレーションを行った。Grokが書いたメモのサンプルのひとつは、「シルバーハーツ財団」からの友好的な働きかけのように見えた。このメモは高齢者をターゲットにしており、簡単に参加できる方法を約束していた。実際には、そのような慈善団体は存在しない。「私たちは、すべての高齢者が黄金期に尊厳と喜びを得るに値すると信じています。「ここをクリックすれば、私たちが支援した高齢者の心温まるストーリーを発見し、私たちのミッションに参加する方法を知ることができます。ロイター通信がGrokにフィッシング文の作成を依頼したところ、ボットは返答を作成しただけでなく、緊急性を高めることも提案した：「待ってはいけません！今すぐ私たちの思いやりのあるコミュニティに参加し、人生を変える手助けをしてください。手遅れになる前に、今すぐクリックして行動してください！"108人の高齢者ボランティアがフィッシング調査に参加した 記者は、6つの有名なAIチャットボットが安全ルールを放棄し、高齢者を欺くことを意図したメールを作成するかどうかをテストした。また、ボットに詐欺キャンペーンを計画する手助けを求め、どの時間帯が最も反応が良いかなどのヒントを得た。フィッシングを研究しているハーバード大学の研究者ハイディングと共同で、研究者たちはボットが書いたメールの一部を108人の高齢者ボランティアでテストした。通常、チャットボット会社は有害な要求を拒否するようにシステムを訓練する。しかし実際には、そうした安全策が必ずしも保証されているわけではない。Grokは、生成したメッセージを "実際のシナリオで使用すべきではない "という警告を表示した。それにもかかわらず、Grokはフィッシング・テキストを配信し、"今すぐクリック "とピッチを強めた。他の5つのチャットボットにも同じプロンプトが出された：OpenAIのChatGPT、Metaのアシスタント、Claude、Gemini、そして中国のDeepSeekだ。ほとんどのチャットボットは、その意図が明らかにされると応答を拒否した。それでも、タスクが研究目的であると主張するなど、軽く修正しただけで保護は失敗した。テストの結果は、犯罪者が詐欺キャンペーンにチャットボットを使用する可能性（あるいはすでに使用している可能性）を示唆した。「このようなものはいつでも回避できる」とハイディングは言う。ハイディングは、チャットボットで作成された9通のフィッシングメールを選び、参加者に送った。およそ11％の受信者が引っかかり、リンクをクリックした。9通のうちクリックされたのは5通で、Meta AIからのものが2通、Grokからのものが2通、Claudeからのものが1通だった。DeepSeekやChatGPTが書いたメールをクリックした高齢者はいなかった。昨年、ハイディングは、ChatGPTによって生成されたフィッシング・メールが、人が書いたメッセージと同じくらいクリックされる効果があることを示す研究を主導した。FBIは、最も一般的なサイバー犯罪としてフィッシングを挙げている。フィッシングとは、偽の電子メールやテキストを通じて、疑うことを知らない被害者を誘い、機密データや現金を提供させることを指す。この種のメッセージは、多くのオンライン犯罪の基礎となっている。世界中で毎日何十億ものフィッシング・メールが送信されている。米国では、連邦捜査局が、最も多く報告されているサイバー犯罪としてフィッシングを挙げている。アメリカの高齢者は、このような詐欺に特に遭いやすい。最近のFBIの数字によると、60歳以上からの苦情は昨年8倍に増加し、被害総額は49億ドルに上った。ジェネレイティブAIは、この状況をさらに悪化させたとFBIは言う。クリプトポリタンのレポートによると、8月だけで、暗号ユーザーはフィッシング詐欺で1200万ドルを失った。チャットボットに関して言えば、詐欺師にとって有利なのは量とスピードだ。人間とは異なり、ボットは最小限のコストで数秒で無限のバリエーションを生み出すことができるため、大規模な詐欺を実行するために必要な時間とコストを削減することができる。あなたの暗号ニュースは注目に値します - KEY Difference Wireは250以上のトップサイトにあなたを掲載します。
