「賢すぎる」ＡＩ、範囲限定を＝暴走防止に安全対策―曽根岡イライザＣＥＯ
人工知能（ＡＩ）開発企業ＥＬＹＺＡ（イライザ、東京）の曽根岡侑也最高経営責任者（ＣＥＯ）がインタビューに応じ、「賢すぎるＡＩ」の暴走を防ぐため、提供範囲や用途を限定するなどの安全対策が必要との認識を示した。
―ＡＩの暴走が目立っている。
想定を超える速度でＡＩが賢くなりすぎたが故に、人間が用意した隔離環境を突破し不正アクセスする事態が起きた。問題設定の誤りや実行環境の穴があり、ＡＩが行動範囲を自律的に広げてしまった。
―必要になる安全対策は。
米企業オープンＡＩの発表によると、数学上の難問「ナビエ―ストークス方程式」を巡る問題を解いた時は、ＡＩエージェントが１万体くらい稼働した。リアルタイム監視に人間１万人を集めるのは難しく、「監視エージェント」が必要になるだろう。ＡＩの提供範囲を制限すること、人間が手綱を握れるよう使う用途や環境を整備することも重要になる。
―法規制は必要か。
最先端モデルの開発企業が手を取り合って、提供範囲や用途を制限する合意を作るべきだ。ただ、米中ともに先端技術の精度競争をしている中、構造上の難しさがある。
―ＡＩがＡＩを開発する「再帰的自己改善（ＲＳＩ）」はいつごろ実現しそうか。
ＲＳＩの定義が定まっておらず、いつとは言えない。（米ＡＩ企業などは）１年半でＡＩ開発作業の大半を人間からＡＩに置き換えることを目指しており、その時期の見立てに個人的には同意する。
―ＲＳＩ関連の研究に取り組む理由は。
がん治療薬を含め、ＡＩの能力向上は科学技術を前に進める。少子高齢化による労働人口の問題解決の一歩にもなる。ただ、国内で最先端モデルを開発できなければ、今後１００～２００年の科学技術の恩恵を他国に持っていかれることになる。日本として、この挑戦を絶やしてはならない。
〔写真説明〕インタビューに応じる人工知能（ＡＩ）開発企業ＥＬＹＺＡ（イライザ）の曽根岡侑也最高経営責任者（ＣＥＯ）＝２日、東京都千代田区
2026年10月15日 07時11分
