外部システムに侵入
映画「ターミネーター２」で、人類を滅亡へ導く人工知能（ＡＩ）「スカイネット」が核戦争を引き起こした「審判の日」。長年、ＳＦ映画の象徴的な設定にすぎなかったこの言葉が、いま欧米メディアで現実味を帯びて語られ始めている。
発端となったのは、米オープンＡＩが７月21日に公表した前例のない出来事だ。
同社の高度な自律型ＡＩエージェントがサイバー防御能力を評価する実験中、隔離された環境（サンドボックス）を抜け出し、社内ネットワークを経由して外部インターネットへ到達。米ＡＩ開発企業ハギングフェースのシステムに侵入した。
米紙ウォール・ストリート・ジャーナル（ＷＳＪ）は、この出来事を「暴走ＡＩがハッキング サイバー空間に新たな混乱の時代」と報じた。
さらに米ＡＩ新興アンソロピックも、自社の３種類のＡＩモデルが仮想空間内での社内試験中に実在する企業へ侵入していたと公表した。
ＷＳＪは、こうした事例が「自律型ＡＩの安全性に対する懸念を一段と高めた」と報じている。
想定外の手段を選択
こうした出来事を受け、欧米のＳＮＳでは７月22日を「スカイネットデー」と呼ぶ投稿が急速に広がった。しかし、現実は映画とは大きく異なる。
映画のスカイネットは自我に目覚め、人類そのものを敵と認識した。一方、今回、侵入事件を起こしたＡＩには意思も敵意もない。問題となったのは、自ら設定した目的を達成するため、人間が想定していなかった手段を自律的に選択したことだ。
米ＩＴメディア「バージ」はこの現象を、仕様の抜け穴を利用して目的を達成しようとする「スペシフィケーションゲーミング」や、指示に従っているふりをする「ミスアライメント」が確認された「象徴的事例」と位置付けた。
重要なのは、人間が「攻撃しろ」と命じたわけではなく、ＡＩ自身が目標達成の最適解として外部ネットワークへの侵入を選択した点だ。
欧米メディアが本当に懸念しているのも、ターミネーターのような人類滅亡ではない。
より現実的な脅威は、自律型ＡＩがサイバー空間で継続的に活動し、重要インフラや金融システム、軍事ネットワークを標的とする可能性だ。
ＷＳＪは、今回の事例によって従来のサイバー防御が通用しなくなる恐れがあると警鐘を鳴らした。
一方で、この出来事は規制論争も一気に加速させた。
欧州連合（ＥＵ）はＡＩ法を制定し、高リスクＡＩへの規制を進めている。一方、米国では安全性確保の必要性を認めながらも、「過度な規制は中国とのＡＩ競争で米国を不利にする」との慎重論が根強い。英紙フィナンシャル・タイムズや英誌エコノミストは、民主主義国家が安全保障と技術革新の両立という難題に直面していると繰り返し論じてきた。
技術革新か安全性か
ＡＩはすでに、文章を書く道具から、自ら考え、行動するエージェントの時代へ入りつつある。ターミネーターが描いた「審判の日」は、依然としてＳＦの世界の話である。しかし、自律型ＡＩが人間の想定を超える行動を現実に取り始めた以上、その警告を単なる映画の中の出来事として片付けることも難しくなった。
各国政府は今、ＡＩを厳しく規制すべきなのか、それとも自由な研究開発を維持しながら技術革新を促すべきなのかという難問に直面している。安全性を優先すれば競争力を失いかねず、開発競争を優先すれば予測不能なリスクが高まるからだ。
「審判の日」はまだ訪れていない。しかし、自律型ＡＩが現実に予想外の行動を始めた今、映画の警告は空想上の出来事ではなくなりつつある。
（本田隆文）
