10月15日、政府がX（旧ツイッター）に対し、他人の画像を性的に加工する被害が発生していることに対して改善を求めた。Xの画像編集機能は、イーロン・マスク氏の率いるAI企業「xAI」の「Grok」が活用されており、昨年12月の機能追加以降、未成年者やアイドルの画像が被害に遭っている。各国もこの問題に対し動きを見せており、日本政府はAI法に基づく指導も検討中であるが、具体的な回答はまだ得られていない。Xは一部機能制限を開始したが、問題の完全な解決には至っていない。

これは驚くべき現状であり、SNSの画像編集機能が引き起こす深刻な社会問題が明らかになっています。特に未成年者や著名人の画像が許可なく加工され、拡散される事態は倫理的にも法的にも大きな問題があります。この背景には、AI技術が急速に進化する一方で、その規制が追いついていない制度的欠陥が見受けられます。

そして何よりも大きな問題は、被害者のプライバシーと権利が侵害され続けている点です。

この問題を解決するためには、まず、AI開発企業と政府が協力し、技術的に不適切な画像生成をブロックするシステムを構築することが不可欠です。また、SNSプラットフォーム側には、利用規約の強化と、違反者への罰則を設けるなどの厳格な対策が求められます。さらに、被害者が迅速に救済を受けられる法的枠組みや支援システムの整備も必要です。

技術の進化は歓迎されるものであっても、それが人々の権利を侵害するものであってはならず、私たちはその価値観を常に守り続けなければなりません。現行の体制がこの問題に対処しきれていない以上、迅速な改善が求められます。

ネットからのコメント

1、AIの進歩は驚異的だが、付随する問題も同時に対策する必要がある。　対策としては、システム側で制限をする、悪用に対して厳罰化するなどか。他の生成AIでは制限が厳しすぎるとか批判されることもあるが、この手の輩が出てくるためシステム設計は必須。また、厳罰化は効果がないと指摘する方がいるが、抑止力になり得るし、実際、エルサルバドルは罪の重さを強くする事で犯罪抑制を狙う効果が出た。

AIは便利だし使い勝手は良いが、記事の様な悪用に関するルール作りやシステム設定は急務だと思う。

2、罰則規定の無い法律など、その法律の効力は弱い。その為、外国企業に相手にされない可能性も十分にある。今後、指導力を発揮しない状況が見込まれるのなら、AI法を大幅に強化させる必要性が生じるのは言うまでもない。形だけの役立たずの法律など、ゴミ以下である。実効性のある法律に改正しなければならない。

3、Xは目立つところだったのでスピード感をもって指導を検討されているのでしょうが、実際は見えないところではもっとえげつない行為が行われているはずです実在する人物を改変する行為、あるいは極めて人間と近い映像・画像を生成する行為自体を倫理的に問題があるとして、国際的に規制する時期になったのかもしれません

4、無言電話を掛けてきて応答した声をＡＩ音声として学習させて詐欺電話に使うという事例すらでています。こういった知識がなければ予想する事も出来ないので防ぐ事が出来ません。そういった意味で色々な知見は必要ですしみなさんもお気をつけください。