Googleは7月31日、Google Earthに導入したAI画像生成機能を、公開から24時間足らずで撤回した。複数組織の研究者が、実在する地理座標にひも付いた核施設、戦災、難民キャンプなどの写実的な偽衛星画像を生成できることを実証し、Google自身のAIでもそれらがAI生成だと確実には識別できなかったためだ。近年の主要なAI製品では異例の速さでの撤回であり、主要な安全策とされた電子透かし「SynthID」が偽画像の流通を防げなかったという、具体的な安全上の問題が引き金となった。再公開の時期や、Googleが導入する「より強力なガードレール」の詳細は明らかになっていない。■研究者たちが生成した偽画像とGoogleの検出ツールの見落としGoogleの「Nano Banana 2」モデル（技術的にはGemini 3.1 Flash Image）を搭載したこの機能は、米国東部時間7月30日午後2時2分（日本時間31日午前3時2分）に、待機リスト、企業向けの利用制限、追加料金のいずれもなく世界で公開された。ウェブブラウザからGoogle Earth上の任意の場所に移動し、「画像を作成」をクリックしてプロンプトを入力するだけで、その場所の実際の衛星画像、航空写真、3D地形データを条件とした写実的な画像を生成できた。この空間的な位置付け、いわゆるアンカリングが同ツールの革新的な点だった。MidjourneyやDALL-Eのようにテキストだけから画像を生成する汎用AI画像生成ツールとは異なり、Google Earthの実装では、表示中の場所にある実際の建物の配置、道路網、地形、光の当たり方などを条件として画像を出力した。例えば、米国連邦議会議事堂で洪水が起きた偽画像は、単に洪水らしく見えるだけではない。建物の位置、縮尺、上空から見た構図を保ったまま、連邦議会議事堂の正確な座標で洪水が発生したように見えた。公開から数時間以内に、オランダのOSINT研究者Henk van Ess氏は、「イランに原子力施設を設置する方法」と題するSubstackへの投稿を公開し、1文のプロンプトで何が生成できるかを記録した。イラン領内の核施設、米国とメキシコの国境にある難民キャンプ、爆撃跡のクレーターがあるガザの病院、アムステルダムでの死亡事故などで、いずれも本物のGoogle Earth衛星画像を土台に生成されていた。Van Ess氏は、この構造的な問題について「偽造画像は、それ自体で説得力を持つ必要はない。それが生まれた地図の信頼性を受け継ぐからだ」と説明している。NPRは独自に、米国連邦議会議事堂周辺の洪水や、イランのハルク島石油ターミナルでの火災を示す偽画像を生成した。同ターミナルは戦略的に重要な施設であり、実際に破壊されれば重大な地政学的事件となる。BBC VerifyとAFPは、倒壊したエッフェル塔、ギザの大ピラミッドをのみ込む陥没穴、キーウに展開するロシア軍戦車、パリでの爆発、シリアにある架空のイスラム国訓練キャンプを生成した。The AtlanticのMatteo Wong氏は、ホワイトハウスの芝生に設けられたホームレスの野営地や、マール・ア・ラーゴ・リゾートの外に集まる抗議者の画像を生成した。米国科学者連盟（Federation of American Scientists）のMatt Korda氏は、本物のロシアの大陸間弾道ミサイル用サイロのすぐ隣に偽のサイロを配置し、両者を見分けるのは難しかったと指摘している。最も深刻な問題を示したテストは、こうした目を引く偽画像の生成ではなく、検出機能の検証だった。AIを活用したOSINTプラットフォーム「Golden Owl」を運営するTal Hagin氏は、van Ess氏が生成したガザの病院の画像をGoogle自身のGeminiチャットボットに入力し、SynthIDの電子透かしを確認するよう求めた。Geminiの回答は「コンテンツがどのように作成されたかを示す、信頼できるシグナルは検出されませんでした」というものだった。Futurismによる別のテストでも同様の結果となり、Geminiは「画像がGoogle AIで作成されたものかどうか判断できない」と回答した。また、van Ess氏が偽衛星画像の画面録画をXに投稿したところ、第三者のAI検出ツールは、AI生成である可能性をわずか0.8％と判定した。■衛星画像が特別なケースである理由衛星画像は過去20年間にわたり、ジャーナリスト、人権調査員、OSINTアナリストにとって、最後のよりどころとなる検証手段として機能してきた。それは完璧だからではなく、画像の撮影元を物理的に偽装することが難しかったからだ。地表から数百マイル上空を飛ぶ衛星のカメラで撮影され、実績のある企業や機関によって管理されている画像は、現地取材が不可能な場所で政府の主張を確認または反証し、残虐行為を記録し、軍の動きを追跡するための、信頼度の高い基準となってきた。BellingcatのシニアリサーチャーであるJake Godin氏はNPRに対し、「衛星画像は偽造が難しいため、出来事を検証する際には、かなり信頼できる手段とみなされてきた」と語った。Bellingcatの分析担当者は、衛星画像を使ってシリアでの化学兵器攻撃を特定し、ロシア軍の作戦を記録し、世界各地の紛争を追跡してきた。同氏はさらに、「地表から数百マイル上空にあるカメラという撮影元は、歴史的に模倣が困難だった」と説明している。Google Earthの機能では、その撮影元を模倣する必要がなかった。撮影元となるデータそのものを利用できたからだ。AIは、画像に信頼性を与えている実際の衛星データを条件として、架空の内容を生成した。Godin氏は、偽の衛星画像そのものは、これまでも限定的ながら出現していたと指摘する。2026年初頭に起きた、米国とイスラエルによるイランとの紛争の際には、イラン政府寄りのTehran Timesが、バーレーンの米海軍基地が破壊されたかのように見せる偽の「ビフォーアフター」画像を掲載した。これは、2025年2月の日付が付いた本物のGoogle Earth画像を加工したものだった。この偽画像の作成には、元になる衛星画像を探し、別のAIツールで編集し、合成画像として組み直すという複数の工程が必要だった。それでも、偽画像だと検証されるまでに数百万回閲覧された。Google Earthの機能は、この複数工程の作業を、1回のテキストプロンプト入力に集約した。Godin氏はNPRに対し、「作業を効率化しているだけだが、それによって、さらに広く出回るようになると思う」と語った。また、この種のツールが存在し、実際に使えることが示されたという事実だけでも、悪意のある行為者に、もっともらしく否認する余地を与えると懸念を示した。政府やプロパガンダの発信者は、現実に起きた出来事を写した本物の衛星画像についてもAI生成だと主張できるようになり、その主張を退けることは以前より難しくなる。■電子透かしが機能しなかった理由研究者らによる実証に対し、Googleは当初、SynthIDを安全策として挙げた。同社は7月30日、@NewsFromGoogleアカウントへの投稿で、Google Earth内でNano Banana 2を使って生成したすべての画像には、画像のピクセルに埋め込まれる不可視のシグナル「SynthIDデジタル透かし」が含まれていると説明した。画像が本物か疑わしい場合、ユーザーはGeminiまたはGoogle Lensを使って確認できるとしていた。SynthIDと、これを補完する標準規格のC2PA（Coalition for Content Provenance and Authenticity）は、コンテンツの来歴を確認するためにAI業界が採用している主要な技術的アプローチだ。SynthIDは、圧縮、サイズ変更、切り抜きが行われても残るよう設計された、人間には知覚できないピクセル単位のシグナルを埋め込む。C2PAは、画像の出所と作成に使われたツールを記録した、暗号署名付きのメタデータを画像に付与する。両者を組み合わせることで、その後に画像を見た人がAI生成コンテンツであることを確認できるようにする仕組みだ。構造的な問題は、どちらも受動的な仕組みであり、誰かが疑いを持って確認して初めて役立つことだ。SynthIDはシグナルを埋め込むが、検出には対応ツールを使った能動的な確認が必要になる。さらに重要なのは、C2PAのメタデータがスクリーンショットやソーシャルメディアへの再投稿によって失われることだ。プラットフォームがファイルを再処理した時点で、署名は無効になる。ニュース速報、紛争報道、ソーシャルメディアでの急速な拡散など、情報が速く動く環境では、拡散の速度が検証を上回り続ける。イランの核施設を写した偽衛星画像は数秒でX上に広がるが、透かしの確認には意識的に追加の手順を踏まなければならない。拡散中の画像を目にした大半のユーザーが、その確認を行うことはない。Washington Postのビジュアルフォレンジック調査員Evan Hill氏は、X上で「このアイデアについて、社内でどのようなレッドチーム検証が行われたのか、あるいは行われたのかどうか、非常に気になる」と書いた。さらに「悪用と偽情報に利用できる余地は、文字通り際限がない」と指摘した。米国科学者連盟のMatt Korda氏は、Googleの対応について「複雑な偽情報を検証する負担を、エンドユーザーに押し付けるものであり、適切ではない」と主張した。また、この機能の開発は「偽情報を抑える自らの責任を理解するうえで、巨大テクノロジー企業に一定の怠慢があったこと」を示していると述べた。■Googleの対応と繰り返されるパターン7月31日までに、Googleは機能の撤回を発表した。同社は声明で「人々が、世界を信頼できる形で見るための手段としてGoogle Earthに特別な信頼を置いていることを、私たちは認識している」と述べた。さらに「地理空間分野の専門家が、この機能をさまざまな有益な目的で利用していることを確認している。一方で、当社のポリシーに違反しているとみられる生成画像のスクリーンショットを共有する人々も確認した。そのため、より強力なガードレールの実装に取り組む間、Google Earthからこの機能を撤回する」と説明した。Googleによると、AI生成画像が通常のGoogle Earth画面に表示されることはなく、作成したユーザーだけが閲覧できた。また、すべての出力にはSynthIDの透かしが入っていたという。その後、「画像を作成」ボタンはプラットフォームから消えた。同社は、再公開の時期や、より強力なガードレールが具体的にどのようなものになるかを明らかにしていない。今回の出来事は、すでに定着しつつあるパターンに沿っている。2024年2月、Googleは、Geminiが歴史的事実と一致しない人物画像を生成したことを受け、人物を生成する機能を一時停止した。その中には、実際には人種的に多様でなかった歴史上の人物を、多様な人種の人物として描いた例が含まれていた。同社は安全対策を作り直し、その後、機能を再公開した。Google Earthでも、機能を広範に公開し、数時間以内に具体的な問題が表面化し、同社が撤回するという同じパターンが繰り返された。オープンソース調査グループのGeoConfirmedはXで、この機能の主な実用的用途は、偽情報の作成と拡散であるように見えると書いた。Van Ess氏は構造的な問題をさらに直接的に表現し、「一体、Googleは何をしているのか」と述べた。同氏は、Google Earthから実在する建物を削除してもらうには政府による正式な要請が必要なのに、偽の建物は1文入力するだけで追加できると指摘している。■ロールバックでは損なわれた信頼は