事件概要

米Anthropicは2023年6月9日、最上位AIモデル「Claude Fable 5」を一般公開すると発表。これまでセキュリティ懸念から限定利用されていた「Mythos」シリーズの高性能モデルを、強力な保護機能「分類器」を整備したうえで全世界で提供開始。セッションの約95%で誤作動なく利用可能な性能を持ち、5000万行コード移行や創薬などで従来の技術を遥かに超える成果を示した。同時に一部信頼組織向けに、保護機能を緩和した「Claude Mythos 5」も提供開始。価格は従来の半額以下で、一般ユーザーにも利用を拡大。一方で、ジェイルブレイク排除が完全でないことも明記された。

コメント

社会問題や安全性の懸念を内包する技術革新と不可分なテーマを見過ごすことはできません。

Claude Fable 5の一般提供は驚異的な進歩であり、科学研究や技術開発において計り知れない恩恵をもたらすことは事実です。しかし、その裏には重大なリスクが潜んでいます。例えば、AI技術の悪用に関連する懸念は完全に払拭されておらず、ジェイルブレイクの完全防止にも至っていない点を見過ごすべきではありません。

根本的な問題は、技術が人類の安全保障全体に与える影響への配慮が十分ではないことです。悪意ある利用に対する透明性の向上や外部監視の厳格化が急務です。また、AI開発企業には、自律した安全機構を追加する義務が求められます。さらに、一般公開にあたり、安全性を保証する国際的ガイドラインを確立する必要性があるでしょう。最後に、利用者への教育を徹底し、AIの限界と責任を周知するべきです。

技術進歩がもたらすメリットは否定できませんが、倫理的課題を軽視すれば、進歩がもたらす代償はあまりにも大きいものとなるでしょう。

ネットからのコメント

1、しばらくはアンソロピックの独り勝ちが続くだろうなぁと。量的にはOpenAI やGeminiなんだろうけど、ユーザーの質が万人ってことでイマイチ。

アンソロピックが捕まえている層、一度使っちゃうと、なかなかChatGPT に戻りたくなくなるというか、試しに戻ると「あぁ、相変わらずその精度か〜」って思うことしばしば。質的に圧倒的に優位なので、この構図が崩れない限り、今後も生成AIのリーディングカンパニーはアンソロピックだろうなぁ。

2、当たり前の話かもしれませんが、日常会話レベルの使い方ではOpusとの違いは感じられません。むしろ、応答により時間がかかるようになるだけ、少しネガティブな印象です。一般人にはこれの本領を発揮出来るような使い方は難しいような気がします。お試し期間が過ぎたら、いったん従量課金的な追加費用が必要になるらしいので、当面はOpusを使うことになりそうです。

3、このままAIの進化が続けば、いずれはAIが自分で自分を発展させるようになると思う。そのような段階になり、地球上のすべての人の知能を上回れば、真の「 AI時代」の到来となるだろう。こうなればもはや誰にも制御できない。

4、トークン消費がえぐいと早くも評判になっているよねリソース管理は大切だとは思うけど、高性能で使用制限があるか、やや性能は落ちるが制限がないか、みたいな使い分けができればいいんだけどな