事件概要

2023年11月17日、フランス東部エビアンで行われたG7首脳と各国AI企業トップらとの会合で、アメリカ政府が先端AIモデルの国家管理体制構築を提案した。この提案は、民主主義陣営のAI活用を強化し、中国などのAI利用を制限することで覇権争いにおいて優位性を確保することを目的としている。アメリカはすでに自国の企業に対し最先端AIの対外提供を制限する措置に踏み切っており、金融や通信といった重要インフラのサイバー防御力向上を強調した。中国が世界第2位のAI大国であることが背景にあり、G7内でも一部からAI技術の利用制限緩和を求める声が上がった。

米国の提案について考察すると、いくつかの重要な要素が浮かび上がります。

現状の説明と異常感

アメリカ主導で提案されたAI管理体制には、技術の悪用防止や防衛力強化という正当な目的がある一方で、民主主義陣営による技術の囲い込みが露骨です。公平性と国際協力を謳うG7の枠組みで、一部技術を特定地域から排除する動きが進むのは、最先端技術における「冷戦的構図」を助長するものでしょう。

問題の本質
制度的な欠陥としては、1) 特定国を「排除」する形で覇権を目指す姿勢が国際協調にそぐわない点、2) AI技術の管理体制が国家レベルにとどまり、透明性や倫理性の確保に関わる具体的なガイドラインが議論されていない点、3) サイバー攻撃防止を名目にした制限強化がイノベーションや開発者間の自由な交流を妨げる恐れがある点、が挙げられます。

解決策

強烈な結びつけ
AIを善用するには、閉鎖的な囲い込みよりも、オープンで協調的なアプローチが必要です。米国政府が掲げるサイバー防御力強化という目的自体は意義深いものの、その実現手段が対立と分断を招くようでは本来の理念を損ねる結果となります。「誰が使うか」ではなく、「どう使うか」を問うべき時が来ているのです。

ネットからのコメント

1、ソフトバンクや日本国として投資した米オープンAIなどがアメリカの監視下に置かれちゃう訳ですね。当然だろうけど情報の吸い上げはされるだろうし、人で例えると脳みそが管理されてしまう訳で、アメリカだけ得する事もできちゃう。やはり日本国内産の開発は必要だし、既に政府主導で動き始めている機関もあるけど、そろそろ国外への投資はやめて国内の各分野発展に本腰入れてもらいたいと思います。

2、映画ターミネーターの世界はいつ起きても不思議ではないフェーズに来ていると思います。海外の報道によれば、すでに先端企業ではプログラミングコードをAIに自律的に改善させる事が当たり前になっており、人間では今のコードがどうなっているか追いきれない状況まで来ているとのことです。

つまり、部分的にはすでにシンギュラリティの領域に達してしまっており、人間が気付かぬうちにAIが暴走して機器を勝手に制御し始めてもなんら不思議ではない状況です。国家間の覇権争い以前に、人類の安全保障の観点で世界的な団結が必要だと思います。

3、核拡散防止に似ている側面があると思う。アメリカは、現時点で言えば先端AIの分野で間違いなく世界のトップ。今の段階で、中国に対抗するという大義名分で「国家レベルで管理」すれば、しばらくの間は自国のリードを保つことが出来る。アメリカは、これを狙っているのでは？しかし、おそらく先端AI開発は核開発より簡単でばれにくいと思われるので、「国家レベルで管理」をやっているうちに中国が追い付くのではないか？「国家レベルで管理」などせず、世界中で自由に競争する中から先端AIを使って「サイバー防御」に磨きをかけるべきだと思う。

4、米アンソロピックのクロード・ミュトス5が大規模なコードを読み込み、バグを修正していく試験「SWE-ベンチpro」で正答率が8割を超え、6割未満の米オープンAIや米グーグルを圧倒している。

バグ修正で長時間粘り強く複雑なタスクを続けるミュトス５の能力は、現実の世界でもサイバー攻撃の精度を高めかねない非常に危険なものだろう。こういう最先端AIが敵側や犯罪集団に利用されてしまえば即座に世界中のシステムの脆弱性が見抜かれてしまい、世界中が混乱するような事態になりかねない。国家レベルで厳重に管理し、利用制限を行うのは国家安全保障にとって非常に重要なことでしょう。