米国X社は1月14日（現地時間）、AI「Grok」が児童の性的画像や合意のないヌード画像を生成しているとの非難を受け、Grokへの技術的対策を発表しました。この新しい安全対策は、すべてのXユーザーに適用され、有料会員のみが画像生成機能を利用可能となります。また、特定の国や地域では画像生成がジオブロックされます。Grokの開発元であるxAIが提供する独立アプリは無料ユーザーでも引き続き使用可能です。この問題に関して、インドネシアやマレーシアがすでにGrokを遮断し、英国でも正式な調査が開始されました。米カリフォルニア州も調査を開始しており、今回のX社の対応はその数時間後に行われました。

今回の事態は、AI技術が持つ倫理的側面の深刻な欠陥を露呈しています。Grokが生成した不適切な画像に対する国際的な反応は、この問題がもはや単なる技術トラブルではなく、社会的かつ倫理的な問題であることを示しています。

この問題の根底には、AI技術を開発・提供する企業が持つべき法的および倫理的責任が十分に果たされていないことがあるでしょう。まずは、AI開発の原則に法遵守と倫理基準の明確化を加え、定期的な監査を実施することが必要です。また、ユーザーからのフィードバックを積極的に収集し、問題発生時には迅速かつ透明性のある対応を行うことが求められます。さらに、国際的な基準を策定し、各国の法律に準拠したAI運用を実現する枠組み作りも急務です。我々は、技術の発展と倫理的責任の間でバランスを取ることの重要性を再認識しなければなりません。

ネットからのコメント

1、有料にしたことである程度数は減るのかもしれないけど、そもそも他人の画像を使えるようになってるのを何とかしないと。一方で画像を使った大喜利みたいに他人に使われる事前提のやりとりもあるので、画像・動画のアップロード時に編集可・不可の属性を付けられるようにするべき。何なら保存の可・不可もできたらいいと思う（スクショで撮られたらそれまでだけど、少なくとも意思表示はしているので提訴になった際に有利）。

2、他人の顔やらを使うのが問題なんでしょ昔からアイドルの顔を切り取った雑なコラージュはあったけど、AIで精巧に生成できて真実のように広まり、それが瞬く間で、取り消せないのが問題なのよね

3、Xユーザーはなぜか、Xに載っている画像なら二次転載や加工をしても良い、ような風潮がすごくみられる。殆どのユーザーが普通にアイドルやスポーツ選手の写真・画像やアニメの画像を載せてポストしている。動画もしかり。元画像の方も宣伝意識が強いのか特に大きな注意喚起もないし、X側からも当然ように注意や削除依頼もない。画像加工も是非するべき対処だが、こういった風潮を作り上げたのはX及びTwitterが何もしてこなかったのが大きな要因なのは間違いない。

4、そもそも他人が撮った写真や描いた絵を勝手に改変するのは著作権法違反だって話個人的に見るだけなら問題ないとか言うけど、そういう画像を作ればネットに投稿したくなるのは既定路線だし、そういう改変画像を売ってる人間もいるんだから、画像改変の機能自体を無しにするしかないだだし、Grokは後発のAIなので、こういう過激な機能をウリにシェアを広げなければならないので、簡単に画像改変の機能を無しにはしないと思うけど