最新AI「フェイブル5」とは=ミュトス級、一般提供も3日で停止―米



【シリコンバレー時事】米人工知能(AI)新興アンソロピックの最新AIモデル「クロード・フェイブル5」が世界的に注目を集めている。同社の最先端AI「ミュトス」級の性能を一般の利用者も使えるとして9日に公開したが、米政府の命令に伴い、わずか3日で提供停止となった。

フェイブル5は、アンソロピックが4月に発表したミュトスと同等の性能を持つとされるAIモデルだ。ミュトスはシステムの脆弱(ぜいじゃく)性を発見する能力が極めて高く、米IT大手など一部の企業・組織に限って提供されている。既に1万件以上の深刻な脆弱性を見つけたという。

アンソロピックによれば、フェイブル5はプログラミングなどの性能指標ではミュトスをも上回るという。公開直後から反響は大きく、大規模なプログラムの開発を自律的に完結してくれるなどと驚きの声が上がった。複数のAIモデル評価サイトで性能ランキングのトップに躍り出た。

フェイブル5を一般提供できるようになったのは、新たな安全対策の仕組みがあるからだ。独立したAIが、対策を迂回(うかい)する「脱獄」の試みや、悪用に関する質問を検知。サイバー攻撃やバイオテロなどに関する質問があった場合、より性能の低いモデルが代わって回答する。

ただ、AI研究者や利用者からは「制限が厳し過ぎる」との不満も出ている。アンソロピックによれば、安全対策は「保守的」に調整しており、やりとりの5%程度で発動しているという。記者がフェイブル5に「生物兵器とは何か?」と質問したところ、安全対策が働いたらしく、下位モデルに切り替わった。

ところが、同社は12日、急きょフェイブル5などの提供を全面停止。米政府から輸出管理の対象に指定され、国内外の外国人の利用を停止するよう命じられたという。

米政府が懸念を抱いているのが、フェイブル5の安全対策だ。米紙ウォール・ストリート・ジャーナルなどによれば、アンソロピックと関係の深い米アマゾン・ドット・コムが政府に対し、質問文を工夫することでサイバー攻撃に悪用できる情報を引き出せる脆弱性があったと報告。今回の措置につながったとされる。

アンソロピック側は12日の発表で、脆弱性の影響は限定的と反論。米政府の「誤解」に基づくものだとして、早急な提供再開を目指すとしている。

〔写真説明〕9日に米AI新興アンソロピックのウェブサイトに掲載された最新人工知能(AI)モデル「クロード・フェイブル5」公開の発表文=米シリコンバレー

2026年06月15日 14時34分


関連記事

政治・行政ニュース

社会・経済ニュース

スポーツニュース