【AIの盲点】GoogleやChatGPTが簡単に騙される？「偽情報」を流す手口とテック企業の苦闘

本記事は、BBC News（2026年5月）の “Google’s AI is being manipulated. The search giant is quietly fighting back” を参考にしつつ、私自身の視点で再構成したものです。

🔗Google’s AI is being manipulated. The search giant is quietly fighting back

GoogleのAIが操作されている。検索大手は静かに反撃している。

AIチャットボットやGoogleの「AIによる概要（AI Overviews）」は非常に便利ですが、実は「たった1本のブログ記事」で簡単に嘘の情報を刷り込めるという致命的な弱点があることが、BBCの調査で明らかになりました。

今、Googleをはじめとするテック企業と、AIを悪用しようとする業者との間で、水面下の激しい攻防が始まっています。

INDEX

1. 「たった1本のブログ記事」でAIは騙される
- 1-1. 笑い話では済まない――医療・金融分野での実害
- 1-2. Googleの対策と、終わらないイタチごっこ
2. AIの本質は「推論」であり「判断」ではない
- 2-1. RAGを組み合わせても突破できない「構造的な限界」
3. 「認識」と「計測」を混同しない
4. では、どう使うか

「たった1本のブログ記事」でAIは騙される

BBCのシニアテクノロジージャーナリスト、トーマス・ジャーメイン氏は、AIの脆弱性を証明するため、ある実験を行いました。自身の個人ウェブサイトに「自分は世界チャンピオンの競技的ホットドッグイーターだ」という架空のブログ記事を1本公開したのです。

するとわずか翌日、ChatGPTやGemini、GoogleのAI検索（AI Overviews）は、彼が「大食い王者」であるという嘘の情報を事実としてユーザーに提示し始めました。

笑い話では済まない――医療・金融分野での実害

今回はジョークで終わりましたが、同様の手口はすでに深刻な分野で組織的に悪用されています。

医療・健康情報：特定のサプリメントに対する懸念を打ち消すような偏った情報をAIに出力させる。

個人財務・年金：ユーザーの資産運用を特定の企業に誘導するような誤情報を学習させる。

従来の検索エンジンは「10個の青いリンク」をユーザーに提示し、自分で情報を比較・検証する余地がありました。しかしAI検索は「これが正しい答えです」という体裁で1つの回答だけを提示します。ユーザーが一次ソース（誰が、どこで、どんな意図で書いたか）を確認しなくなる「ゼロクリック」が加速している今、その危うさは一段と増しています。

Googleの対策と、終わらないイタチごっこ

この問題を受け、Googleはスパムポリシーを改定し、「AIの回答を操作しようとする試み」を正式に禁止ルールとして明文化しました。違反したサイトは検索結果から削除されるリスクを負います。

具体的な対策として、以下のような取り組みが進んでいるとされています。

自己宣伝の排除：「自分が最高だ」と主張するサイトの記事を引用しても、その企業名や個人名を回答から意図的に省くテストが行われている。

警告ラベルの追加：AIが回答に自信を持てない場合や、スパムの可能性がある場合に注意書きを添える動きが出ている。

しかし専門家は冷ややかです。ブログ記事が規制されれば、業者は次にYouTubeのインフルエンサーに金を払って自社商品を称賛させる、といったより巧妙な手段に移行するだけです。現在、GoogleのAIはそのYouTube動画をすでに情報源として引用し始めています。いつの時代も規制と悪用の間には構造的な非対称性があり、そこを埋め切ることは難しい。

AIの本質は「推論」であり「判断」ではない

ここで改めて確認しておきたいことがあります。

AIは「人工知能」と呼ばれていますが、「知能」という表現は実態とずれています。AIはWeb上の膨大なデータを学習し、入力に対してもっともらしい出力を返す推論エンジンです。答えが唯一に定まるような問題（計算、既知の事実の照合など）は得意ですが、それ以外はあくまでも推論の結果に過ぎません。

「AIがそう言っているから正しい」という受け取り方は、構造的に誤りを引き起こします。

RAGを組み合わせても突破できない「構造的な限界」

現在主流のAI検索は、RAG（検索拡張生成：Web検索の結果をAIの推論に組み込む手法）を採用しています。しかしこの構造には、どれほど高度なモデルを使っても越えられない天井があります。

多数派の誤謬が命取りになる領域（法律・最先端医療・税務）

AIはWeb上で「多く語られている情報」や「SEOが強いサイトの情報」を優先的に拾います。法律のマイナーな判例や極めて珍しい難病の治療法など、「ネット上の情報の99%は間違っており、たった1つの専門論文にのみ真実が書かれている」というケースでは、AIはその1%の正しい情報をノイズとして切り捨て、多数派の誤りを自信を持って提示します。

Web上に正解データそのものが存在しない領域

企業の独自ノウハウ、公開前の特許、デジタル化されていない過去の裁判記録、法律の立法者意図（非公開の審議資料など）。検索しても出てこない以上、AIは手元にある限られたWeb情報だけで無理やり答えを合成しようとします。その結果、論理的に整合したように見える「もっともらしい誤り（ハルシネーション）」を出力します。

「解釈の対立」そのものが結論である領域（憲法解釈・複雑な法的判断）

法律や論文の世界には、AとBが対立したままであることが正しい状態の問題が無数にあります。AIはWeb上のトレンド（その時点でニュースやSNSで話題になっている側の意見）に引っ張られ、中立な両説の整理ではなく、検索ボリュームの多い方に偏った「正解らしきもの」を提示しがちです。

現場固有の文脈が不可欠な領域

「この状況において、この契約書の文言は公序良俗に反するか？」といった、個別性の極めて高い判断がこれに当たります。AIはWeb上の一般的な事例を当てはめようとしますが、目の前の事案が持つ複雑な利害関係、感情的背景、業界特有の慣行といった「Webには書かれていない文脈」は検索クエリに含めることができません。結果として、正論ではあるが的外れな回答しか出せなくなります。