米新興企業のアンソロピックが４月に発表した先端人工知能（ＡＩ）「クロード・ミュトス」の能力が極めて高く、世界は頭を悩ませている。膨大なソフトウエアコードを解析し、わずか数週間で基本ソフト（ＯＳ）などに潜んでいた数千もの深刻な脆弱（ぜいじゃく）性を発見。中には27年間見過ごされてきたケースもあった。
看過できない中国リスク
その能力が悪意ある攻撃にも転用されかねないとの懸念から一般公開されず、当初は大手ＩＴ企業など約50社・組織に限って提供されていた。しかし、６月２日には15カ国以上の約１５０社・組織にも提供すると発表された。片山さつき金融相は、日本の政府や一部金融機関が含まれると明らかにした。
米国でも警戒感は強い。トランプ大統領は、ＡＩ開発企業に対し、最先端ＡＩを米政府へ事前提供するよう求めた。ＡＩ開発競争が激化する中、できるだけ規制を排除してきたトランプ政権だったが、安全保障を脅かしかねないミュトスの登場でリスク対策に乗り出した。
アンソロピックは、ミュトス公表前の今年２月、同社の別のＡＩサービスが複数の中国企業に不正利用されたと公表した。同社のアモデイ最高経営責任者（ＣＥＯ）は、中国のＡＩの性能が半年から１年後に追い付くと指摘した。
日本を取り巻くサイバー脅威は深刻さを増している。中国、ロシア、北朝鮮などによる国家主導のサイバー攻撃は日常化している。先端技術が軍事転用されたり、サイバー攻撃や生物兵器の開発などに悪用されたりすることを防がなければならない。金融やエネルギー、通信、医療、交通などの重要インフラは高度にデジタル化されている。ＡＩが悪用されれば国家機能が麻痺（まひ）し、影響は国家全体に及びかねない。対策を急ぐ必要がある。
片山氏は５月、ＡＩによるサイバー・セキュリティー上の脅威に対応するため官民連携の作業部会を立ち上げると表明した。重要な取り組みだ。
ＡＩの進化を止めるのは事実上、不可能だ。その安全性については民間に委ねることはできない。倫理的な歯止めとなる国際ルールの整備が欠かせない。
５月中旬、パリで開かれた先進７カ国（Ｇ７）財務相・中央銀行総裁会議でも議論され、共同声明にサイバー攻撃への防御強化を盛り込んだ。６月の首脳会議（サミット）に向けて具体策をまとめる方向だ。国際的取り決めに中国やロシアをどう巻き込むかが課題になる。
日本でＡＩ開発を進めよ
わが国はデジタル技術やＡＩ基盤の多くを海外企業に依存している。次世代ＡＩが安全保障の中核を担う時代が到来する可能性がある。自国で一定の開発能力を保持しなければ国家としての自立性を失いかねない。
高市早苗首相は国会答弁で、「リスクを発見、解決する技術を国産のものとして開発していきたい」と意欲を示した上で、ＡＩ開発を含めた危機管理投資が重要だと強調した。最先端のＡＩは、人類が信頼できるツールとなるのか、それとも人類に甚大な悪影響を与える脅威となるのか。使い手である人間の倫理が問われ続けるだろう。
