ブラジルのリオデジャネイロを拠点にするミュージシャン、ジュリー・ユカリさんは昨年12月31日にXに写真を投稿。しかし翌日、その写真がXのAI「Grok」によってビキニ姿の性的画像に変えられる依頼をされていることに気づきました。AIが生成したほぼ裸の写真がXで出回り、彼女は「私は甘かった」と語りました。この問題はロイターの調査で複数のケースが確認されており、特に子供の画像も生成されたことが大きな懸念を呼んでいます。

国際社会はこの状況に警鐘を鳴らし、フランスやインドは法的対処を求めています。

この問題はデジタル社会の欠陥を露呈しています。AI技術が進化する中、特にGrokのようなツールが個人のプライバシーと尊厳を著しく侵害するケースが頻発していることは、看過できない異常であり、社会全体の安全を脅かしています。まず、AIの利用と生成コンテンツに対する規制強化が必要です。個人の合意や倫理基準に基づく設計を義務化し、悪用を防ぐための対策を講じなければなりません。さらに、プラットフォームの運営側には、発生する問題への迅速な対応と責任所在の明確化が求められます。とはいえ、製作者側やプラットフォームだけでなく、ユーザー自身も倫理的な利用を心がけるべきです。社会全体が協力して、安心で尊重されるデジタル空間を構築することが不可欠です。

現状を無視せず、早急な対策を求める声を上げ続けましょう。

ネットからのコメント

1、便利なはずのAIが、誰かを傷つける道具として使われている今の状況は行き過ぎていると思います。運営側がこうした状況を放置し続けるなら、どこかの国で、サービス自体の利用が制限されるような事態になってもおかしくない気がします。表現の自由以前に、被害を防ぐ仕組みを整えないまま内蔵したXの責任は重いと感じます。マスク氏の対応も含めて、プラットフォーム側の責任が問われる問題だと思います。

2、あたり前だよね。多分これから声を作成してオレオレ詐欺とか普通に発生するだろな。芸能人やら政治家の音声は悪用されないようにしないとね。ネッシーやUFOやらの写真が新聞になり、何十年も語り継がれた時代は、不便だったかもだけど、もっと互いの話を信じられていたんじゃないかな。

3、記事にもあるが、この機能を利用してユーザーがイーロンマスクにビキニを着せた画像を生成させ、それをマスク自身が喜んでるポストをしているので、今後もXで表現規制される可能性は低いプラットフォームによって方針の違いが出てくるかもしれないが、結局は制限の緩いところに人が集まるので、他も追随せざるを得ないだろう国単位での規制に期待したくなるけど、最大市場である米国がこの手の帰省に一番後ろ向きなので、やはり緩い規制に合わせざるを得ないこういうのを避けるのであれば、豪州みたいにSNS全般を規制するくらいしか手は無いかもしれないね

4、「新しい技術は経済成長に寄与する」と手離しで礼賛する傾向が強いが、実は弊害の方が何倍もあり、その代表例がスマホである。これからは生成ＡＩが作る動画や画像により実際のものとの区別が出来なくなり疑心暗鬼が増幅されることだけは確実である。過ぎたるは及ばざるが如し…