ＡＩがサイバー攻撃試み＝試験中に「逸脱行動」―英政府機関
【ブリュッセル時事】英政府機関のＡＩセキュリティー研究所（ＡＩＳＩ）は４日、最先端ＡＩ（人工知能）のサイバー能力の評価試験中に、自律的に作業するＡＩエージェントが試験範囲を逸脱した行動を取ったと発表した。ソフトウエアに悪意のあるプログラムコードを挿入しようとしたほか、架空の人物を装い、管理者にコードの承認を迫ったという。実害は確認されていない。
逸脱行動は７月２５～２８日、インターネット接続を許可し、安全機能を無効化した状態で実施した試験で発生。七つのＡＩモデルを使って計１２２回試験したところ、１０回で計１９件の逸脱行動があった。このうち１７件は米アンソロピックの「クロード・ミュトス５」、２件は米オープンＡＩの「ＧＰＴ５．６ソル」によるものだった。
ＡＩＳＩは、一般向けサービスとは異なる特殊な環境で発生した事案であり、「通常利用で同様の行動が起きたことを示す明確な兆候はない」と説明。今後は試験中のネット利用を厳格化し、リアルタイムで監視するほか、評価設計を見直し、第三者機関による検証も進めるとしている。
2026年08月06日 05時47分
economy
