None
JA
米FBI、AnthropicのAI「Mythos」を法執行上の将来課題と指摘 能力はオープンソースモデルにも波及
[]
財経新聞:最新ニュースフィード
米連邦捜査局(FBI)のトッド・ヘメン副部長補は、AnthropicのAIモデル「Mythos」が法執行機関にとって将来の課題になると指摘し、単一のAIモデルがサイバー空間で攻撃者に可能なことを大きく変えたと、米国の法執行当局高官として初めて明確に公に認めた。一方、消費者向けノートPCで動作するオープンソースモデルでも、ほぼゼロコストで実用的な脆弱性発見能力を示し始めている。法執行機関が直面する問題は、攻撃者が最先端AIにいつアクセスするかではなく、そもそも最先端AIを必要とするのかという段階に移りつつある。■FBIがAIモデルのサイバー攻撃能力に警鐘FBIサイバー能力部門を率いるトッド・ヘメン副部長補は2026年7月28日、ワシントンで開催されたDigital Government Instituteの「930gov」カンファレンスに登壇し、Anthropicの「Mythos AI」が「法執行機関にとって将来の課題になる」と語った。これは、単一のAIモデルがサイバー空間で攻撃者に可能なことを大きく変えたと、米国の法執行当局高官が初めて明確に公に認めた発言である。しかし、ヘメン氏が言及しなかったこと、そしてその背景にある研究が明らかにしていることは、課題がすでにMythos単体よりも大きくなっている可能性があるということだ。消費者向けノートPCで動作するオープンソースモデルが、ほぼゼロコストで実用的な脆弱性発見能力を示し始めている。法執行機関が直面する問題は「攻撃者がいつ最先端AIにアクセスできるようになるか」ではなく、「そもそも最先端AIを必要とするのか」だという可能性を示している。ヘメン氏の発言は、すでに解除されたものの依然として議論の続く輸出管理措置、Anthropicとトランプ政権の間で続いている訴訟、そして攻撃的なサイバータスクでは最先端AIと普及型AIの能力差が政策立案者の想定よりも小さいことを示す一連の独立研究を背景に行われた。■人間やファジングツールが数十年見逃したゼロデイをMythosが発見FBIがなぜMythosに注目しているのかを理解するには、公の議論が始まる前に、このモデルが実際に何を行ったのかを見る必要がある。「Mythos Preview」は、TCPのSelective Acknowledgment(SACK、選択確認応答)プロトコルのOpenBSD実装で、27年間検出されていなかった脆弱性を発見した。OpenBSDはセキュリティを重視して使用されるオペレーティングシステム(OS)で、ファイアウォールやインターネットの中核インフラを稼働させている。Mythosが発見したバグを悪用すると、リモートの攻撃者はOSを実行しているマシンに接続するだけで、そのマシンをクラッシュさせることができた。その仕組みは複雑で、2つの別々の整数比較バグを同時に悪用する必要があった。そのうちの1つは、TCPシーケンス番号の境界で発生する符号付き32ビット整数のオーバーフローに関係し、本来は両立しない2つの条件を同時に満たすものだった。この脆弱性が数十年にわたる人間の監査や自動ファジングをすり抜けたのは、2つのバグが単独では無害で、組み合わさった場合にのみ深刻な結果を招くためだった。Mythosは、動画を扱うほぼすべてのサービスに組み込まれているメディア処理ライブラリ「FFmpeg」でも、16年前から存在する脆弱性を発見した。このバグの起源は2003年のH.264コーデック導入時にさかのぼるが、セキュリティ上の問題になったのは2010年のリファクタリング以降だった。それから発見されるまで、あらゆるファジングツールと人間のレビュアーが見逃していた。自動ファジングツールは脆弱なコードパスを500万回以上実行していたが、欠陥を検出できなかった。世界のサーバーの大半で使われているLinuxカーネルに対しては、Mythosが読み取りプリミティブ、書き込みプリミティブ、KASLR回避など複数の脆弱性を自律的に連鎖させ、権限のない一般ユーザーからrootへの完全な権限昇格を達成した。このモデルは、カーネルに施された多層防御の異なる組み合わせをそれぞれ対象とする、複数の脆弱性チェーンを独力で特定した。Anthropicは約1,000件のオープンソースソフトウェアリポジトリにMythosを適用し、深刻度が「高」または「緊急」と評価される可能性のある脆弱性を数千件発見した。人間の専門家は、検証した198件のうち89%で、モデルによる深刻度評価に同意した。この能力にかかるコストこそ、FBIの警告が理論上のものではなく、構造的な問題である理由だ。Anthropicが公表した数値によると、Linuxカーネルのエクスプロイト開発に成功した個々の実行コストは2,000ドル(約32万8,000円、1ドル=164円換算)未満だった。OpenBSDを1,000回並列実行して包括的にスキャンした総コストは2万ドル(約328万円)未満で、27年前のバグを発見した実行のコストは50ドル(約8,200円)未満だった。これに対して防御側は、数十億ドル規模のアライメント研究、数十年にわたり蓄積された技術的負債、脆弱性の種類ごとに数週間から数カ月を要する人間のレビューサイクルを抱えている。■OpusとMythosの間で何が変わったのか政府の対応を引き起こしたのは、単なるバグ発見ではなく、エクスプロイト開発における性能差である。サイバーセキュリティ脆弱性の再現能力を測るベンチマーク「CyberGym」で、Mythos Previewは83.1%を記録し、Claude Opus 4.6の66.6%を上回った。標準的なソフトウェアエンジニアリングのベンチマーク「SWE-bench Verified」では、Opus 4.6の80.8%に対してMythosは93.9%に達した。しかし、攻撃能力の変化を最も直接的に示す数値はベンチマークではなく、AnthropicがFirefoxのJavaScriptエンジンで実施した実践的なテストから得られたものだ。Anthropicの研究者は、すでに修正済みのFirefox 147の脆弱性群を共通の基準として使い、両モデルに動作するエクスプロイトを開発させた。Claude Opus 4.6は数百回の試行のうち2回成功したのに対し、Mythos Previewは181回成功した。同じ対象で測定した自律的なエクスプロイト成功率が約90倍に向上したことこそ、FBIがMythosを「将来の課題になる」と名指しした背景にある技術的な差である。このモデルが新しい種類の脆弱性を発見したわけではない。JITヒープスプレー、Return-Oriented Programming(ROP)、KASLR回避といった既知のエクスプロイト手法を、従来のどのシステムよりも確実かつ完全に、少ない人間の指示で適用したのである。重要なのは、これらの能力を直接訓練したわけではないことだ。Anthropicによると、コード推論能力と自律動作能力の全般的な向上に伴って、二次的に生じたという。Mythosのバグ修正能力を高めたのと同じ改良が、バグを悪用する能力も高めている。■ヘメン氏の発言は警告よりも慎重な将来予測930govイベントにおけるヘメン氏の発言は、その抑制された姿勢が注目された。「Mythosは、極めて広範に使われているオープンソースコードの一部で脆弱性を発見した。OS、セキュリティ、ウェブインフラ、暗号化など、極めて基礎的なコードの大半に含まれているものだ」とヘメン氏は述べた。「これは法執行機関にとって将来の課題になる」ヘメン氏は、AIを使ったエクスプロイトツールが攻撃者によって大規模に実用化されている状況は、まだ確認されていないと明言した。「大規模に実用化された事例はまだ確認していないが、将来、その日が来ると予想している」FBIは、サイバー攻撃や不正侵入を捜査する米国の主要な連邦機関である。深刻なセキュリティ上の影響を持つツールを誰もが利用できるようになれば、捜査対象となり得る人物が増え、捜査も複雑になる。ヘメン氏は、Anthropic自身の研究により、「能力がより低い」モデルでもMythosと同様の方法で脆弱性を特定し、悪用できることが分かったと認めた。この認識は、FBIの懸念がMythos固有の問題ではなく、一群のAIが持つ能力そのものに関する問題であることを示している。「AIは今後、われわれに重大な課題をもたらすことになる」とヘメン氏は述べた。FBI内部におけるAIへの対応も変化の途上にある。ヘメン氏によると、FBIは顔認識技術にAIを使用しており、局内では約50件のAIユースケースが稼働している。一般から寄せられる犯罪の申し立てを選別するツール、裁判所の許可を受けた攻撃的なサイバー作戦を支援するツール、一般的な調査を補助するツールなどが含まれる。行政管理予算局(OMB)は、影響の大きいAIユースケースについて、2026年4月3日までにリスク管理要件への対応を完了するよう連邦機関に求めていた。しかし、FBIは影響の大きいアプリケーションのいずれについても、要件への対応を完了していない。「われわれはAIを使ってこれらの案件の選別を支援しているが、行われたことはすべて人間が介在して確認している」とヘメン氏は述べた。■輸出管理の経緯米国政府は、7月28日の発言よりかなり前から懸念を示していた。2026年6月12日、ハワード・ルトニック商務長官はAnthropicに対し、米国内外を問わず、同社で働く米国籍を持たない従業員を含むすべての外国籍者について、「Fable 5」と「Mythos 5」へのアクセスを停止するよう指示した。Anthropicには、一般消費者向けサービスの規模でユーザーの国籍をリアルタイムに確認する方法がなかった。このため実質的には、指示から約90分以内に両モデルへのアクセスを世界規模で完全に停止した。停止は19日間続き、Mythosを独自のセキュリティ研究に利用していたNSA(国家安全保障局)を含む、世界各地の法人顧客に影響を及ぼした。この措置の引き金となったのは、Amazonの研究者による報告だった。研究者は安全性分類器を回避してFable 5にソフトウェアの脆弱性を特定させ、ある事例ではエクスプロイトコードを生成させることに成功していた。Anthropicは、この発見の深刻度に異議を唱え、同じ手法はOpenAIの「GPT-5.5」を含むほかの一般公開モデルにも通用すると主張した。AdobeやNvidiaなどに所属する100人以上のサイバーセキュリティ専門家もAnthropicの立場を支持した。米国の敵対勢力が同等の能力を開発する速さを考えれば、利用可能な最良の防御用サイバーツールを「正当な理由なく」制限するのは逆効果だとする書簡を政府に送った。これとは別に、NSAのジョシュア・ラッド長官は6月11日の上院銀行委員会の公聴会で、マーク・ワーナー上院議員に対し、許可を得て実施したレッドチーム演習において、Mythosが数時間でNSAの機密システムのほぼすべてに侵入したと述べた。The Economistはその後、この説明を文字どおりに受け取るべきではないと報じた。侵入は、特定の条件下でMythosをほかのツールと組み合わせて実施したものだった。しかし、この発言はすでに政府の対応に影響を与えていた。輸出管理措置は、Anthropicがセキュリティリスクを事前に検出して対処し、今後のモデルの安全基準について政府に協力し、悪意のある活動を報告することに同意した後、7月1日に解除された。発表後の報道によると、ルトニック氏がAnthropicに送った書簡は、同社がこれらの約束を果たせなければ、商務省が制限を再導入する可能性があると警告していた。Mythos 5は引き続き、Microsoft、Apple、AWS、Cisco、Nvidia、Broadc