31歳の男が警視庁に逮捕された。彼は生成AIを利用し、実在する芸能人に似せた女性のわいせつ画像を作成し、有料サイトで公開していた。警察は、彼のパソコンから50万点以上の画像を発見し、これらが2年以上かけて約1100万円の売上を記録したとみている。容疑者が画像作成に使ったAIには約300人分の芸能人データを学習させた疑いがあり、この行為が「わいせつ電磁的記録媒体陳列」の罪に問われている。

生成AI技術の利用が急速に進展している中、今回の事件はその悪質な使い方を体現した懸念すべき事例です。AIを駆使して実在する人物に似せたわいせつ画像を生成し、営利目的で公開する行為は単なる違法行為ではありません。これはプライバシー侵害、本人の名誉毀損、安全への脅威を同時に引き起こし、社会的に大きな損失を招くものです。

この問題の根本は、技術規制の遅れと責任の所在の不透明さにあります。

生成AIの利用に関する法的枠組みを早急に構築する必要があります。まず、AI技術の利用登録制を導入し、公開コンテンツの内容を監視する仕組みを整えるべきです。次に、本人の肖像権を保護する法整備を強化し、違反者への厳罰化を進める必要があります。そして、教育・普及活動を通じ、技術使用の倫理について社会全体での理解を深めることが求められます。

倫理を無視した技術の使い方が拡大すれば、人間性を尊重する社会の基盤を揺るがす事態となります。また、他の分野でも同様の悪影響が広がる可能性が懸念されます。この機会に私たち全員が目を覚まし、社会の未来を守るべきです。

ネットからのコメント

1、2年で1100万円も売り上げていたなら、例え逮捕されても罰金刑や執行猶予で済めば、犯人にとっては「経費」程度でしかなく、完全に「やり得」になってしまいます。この種のデジタル犯罪に関しては、犯罪収益を全額没収した上で、さらに高額な懲罰的賠償を科さないと抑止力になりません。被害者の尊厳を踏みにじって稼いだ金で、のうのうと暮らすことなど絶対に許してはいけない。

国税も動いて、徹底的に追徴課税してむしり取ってほしい。

2、この後税務署から追徴課税もありますし、被害を受けた芸能人とかの事務所からも損害賠償請求などを受けるかもしれない。仮に執行猶予がついても、社会からはピンク犯罪者のラベリングをされた余生を生きることになる。AIでフェイク画像は作れても、そんな簡単なこともAIや誰も教えてくれなかったんですね。

3、AIの進歩は驚異的だが、付随する問題も同時に対策する必要がある。　対策としては、システム側で制限をする、悪用に対して厳罰化するなどか。他の生成AIでは制限が厳しすぎるとか批判されることもあるが、この手の輩が出てくるためシステム設計は必須。AIは便利だし使い勝手は良いが、記事の様な悪用に関するルール作りやシステム設定は急務だと思う。

4、今、簡単にできてしまうんですよね。誰でもできてしまいます。昔からアイコラというものはあったんですが、昔と違って今は拡散も速い。顔を写されたらおしまいです。恐ろしい世の中になりました。使い方次第なんですが、素晴らしい道具はいつも人間によって悪のツールに成り下がります。