10月28日、AIスタートアップであるアンソロピックは、これまで限定的に提供していた高度なAIモデル「Mythos（ミュトス）」と同等のモデルを、数週間以内に一般公開する計画を発表しました。この新モデルは主要なOSやウェブブラウザーの脆弱性を特定・悪用する能力を持ち、強化されたサイバーセキュリティー対策が求められています。新たに発表された「Opus 4.8」はコーディングや金融分析への対応力を高め、競合するOpenAIやGoogleに先行することを目標としています。同社はまた、最新の資金調達で650億ドルを獲得し、企業価値は約154兆円となり、OpenAIを初めて上回りました。ただし、高度なAIモデルの潜在的リスクから、世界規模で警戒が強まっています。

この問題には【批判型】のスタイルで対応します。

人工知能の発展は目覚ましく、アンソロピックが公開予定の「Mythos」レベルのAIはその象徴ですが、技術の進展には光と影があることを忘れるべきではありません。世界の主要なOSやブラウザーの脆弱性を特定し、悪用できる能力を持つシステムを一般に広めるという方向性は、現状の規制と倫理観のあいまいさを露呈しています。

背後にある問題は、一部の企業や政府だけがこの技術に対する管理権を持つ一方で、広報戦略や市場競争が拡大を促進している現状です。セキュリティ対策や透明性の欠如が、サイバー攻撃やプライバシー侵害、さらには社会不安を引き起こす可能性を無視して進んでいるように映ります。

解決策として、まずは国際的なAI規制基準を統一し、潜在的リスクを明確化したルール構築が急務です。また、一般公開前には、外部の独立専門組織による厳密な評価・監査を義務付けるべきです。さらに、重要なシステムの脆弱性を発見できる機能は軍事・政府用途に限定し、一般ユーザーへの提供を厳しく制限するのが妥当です。

私たちは、技術の限界を超えた都合の良い未来を夢見る一方で、その未来がもたらす不安定性について熟考しなければなりません。技術の進化が進むのは自然ですが、それが社会全体の信頼や安心を損なうものであれば、その進化は意味を成しません。

ネットからのコメント

1、攻撃する側もすでに高度なAIを活用し始めている以上、これからは、防御する側も最先端AIを使うのが当たり前の時代になるのでしょうね。

人間だけで対抗するのは限界があります。サイバー攻撃のスピードも巧妙さも増しており、「AIにはAIで対抗する」という流れは避けられないと思います。また、金融機関やインフラ企業が最新AIを導入しようとしているのも当然です。脆弱性を人間より早く見つけ、被害が出る前に防ぐ力は大きな武器になります。今後は「どれだけ強いAIを持つか」が安全保障そのものになっていくのかもしれません。ただ、一番悩ましいのは権限をどこまでAIに与えるかです。完全自動で攻撃を遮断するのか、それとも最終判断は人間が持つのか。便利さやスピードを優先しすぎると、誤作動や暴走のリスクも出てきます。結局、人間がどこでブレーキをかけるのか、その線引きが一番難しい問題になりそうです。

2、常に最先端のAIを使って安全を確保する時代が来ましたね…。弊社でも利用しているミドルウェアやOSが脆弱性祭りになっているので、なんとか食いついていかないと、と思っています。しかしながら「攻撃する側が有利」なのは変わらないので、いつか精魂尽き果ててしまいそうです。

社内SEが兼任する時代は終わったかもしれません。セキュリティ専任が相当人数必要ですね。

3、AIもついに「便利すぎてすごい」から「強すぎて解放して大丈夫なのか」という段階に来た感じがします。昔のSFなら、研究所の奥で鍵をかけて管理されているタイプの技術が、数週間後には普通のユーザーに届くかもしれないわけですよね。もちろん、企業にとっては脆弱性発見やコード分析に使える強力な味方になると思います。ただ、同じ能力は守る側だけでなく攻める側にも魅力的です。AIは包丁のようなもので、料理にも使えるし、危険にも使える。問題は、誰がどう持つかです。

4、AI使ってプログラミングやっていると、ちょっとしたアプリなど楽に作ってくれる。最近ではテストも自分でやってのける。ふと気が付くと自分の知らない言語、知らないインターフェイスを使っている。それでもバグるので修正させることで管理しているような気になるが、実のところ、もはや管理とも言えない。そして、コードについてどう責任をとれるのかと考える。機能仕様とその試験仕様として開発責任を負うことになるだろうが難しいことなる。

まあ、コードに限らず、人間の能力以上のAI、その産物の責任をどうするか。