1月14日、米国XはAI「Grok」が児童の性的画像や無許可のヌード画像生成の疑いで批判を受けたことを受けて技術的対策を発表しました。これにより、Grokは露出度の高い服装をした実在の人物の画像編集を禁止し、すべてのユーザーに適用されます。また、画像生成機能は有料会員のみ可能で、特定地域ではジオブロックも実施されます。この問題ではインドネシアやマレーシアがGrokを遮断し、英国と米カリフォルニア州で調査が開始されました。イーロン・マスク氏は違法生成を否定し、法律を順守すると表明しました。

この問題は、明らかに重大な倫理的課題を含んでいます。AIの不適切な使用の背後には、厳しい監視体制の欠如や技術の暴走が潜んでいます。第一に、AIの画像生成については、厳格な倫理基準を設けて常に更新することが不可欠です。第二に、ユーザー管理とAIの制御において、透明性と情報公開を徹底することが求められます。

第三に、法律と技術の進歩に対応する形で、迅速な規制の枠組みを構築する必要があります。この問題はデジタル技術のもたらす危険性と人間の倫理観が鋭く対立する事例です。商業利益が倫理に優先されることなく、共通の倫理的価値観がしっかりと維持されるべきです。社会の安全と人間の尊厳を守るための行動が、いまこそ求められています。

ネットからのコメント

1、有料にしたことである程度数は減るのかもしれないけど、そもそも他人の画像を使えるようになってるのを何とかしないと。一方で画像を使った大喜利みたいに他人に使われる事前提のやりとりもあるので、画像・動画のアップロード時に編集可・不可の属性を付けられるようにするべき。何なら保存の可・不可もできたらいいと思う（スクショで撮られたらそれまでだけど、少なくとも意思表示はしているので提訴になった際に有利）。

2、他人の顔やらを使うのが問題なんでしょ昔からアイドルの顔を切り取った雑なコラージュはあったけど、AIで精巧に生成できて真実のように広まり、それが瞬く間で、取り消せないのが問題なのよね

3、Xユーザーはなぜか、Xに載っている画像なら二次転載や加工をしても良い、ような風潮がすごくみられる。殆どのユーザーが普通にアイドルやスポーツ選手の写真・画像やアニメの画像を載せてポストしている。動画もしかり。元画像の方も宣伝意識が強いのか特に大きな注意喚起もないし、X側からも当然ように注意や削除依頼もない。画像加工も是非するべき対処だが、こういった風潮を作り上げたのはX及びTwitterが何もしてこなかったのが大きな要因なのは間違いない。

4、そもそも他人が撮った写真や描いた絵を勝手に改変するのは著作権法違反だって話個人的に見るだけなら問題ないとか言うけど、そういう画像を作ればネットに投稿したくなるのは既定路線だし、そういう改変画像を売ってる人間もいるんだから、画像改変の機能自体を無しにするしかないだだし、Grokは後発のAIなので、こういう過激な機能をウリにシェアを広げなければならないので、簡単に画像改変の機能を無しにはしないと思うけど