XのWebアプリ版とiOSの最新バージョンで、2023年12月24日までに投稿された画像をAIで加工できる新機能が公開されました。ユーザーがポストした画像にマウスを合わせ、「画像を編集」をクリックするとチャット画面が現れ、指示通りに画像を変えることが可能です。例えば、文字の色を変えるような簡単な操作が手軽に行えます。また、加工した画像の投稿やリプライも可能です。

無料ユーザーでもこの機能を利用できるため、誰でも手軽に画像編集が行える状況です。ただし、この機能に対しては悪用の懸念を指摘する声も多く上がっています。AIで生成された画像には「画像を編集」の表示が付き、加工元画像との比較が可能です。

新たに導入されたXの画像加工機能は、便利である一方で、重大な危機を内包しています。手軽さゆえに悪用のリスクが指摘されており、「最悪なシステム」との批判が目立ちます。情報の信頼性を揺るがしかねないこの状況。まず、適切なガイドラインと使用規約を設定することで、利用者にルールを示すべきです。また、不適切な使用を迅速に報告し、対処する通報システムの導入が求められます。最後に、不正行為を検出する技術の強化も不可欠です。このような機能が無制限に使用できる現状は、デジタル社会における透明性と安全性の価値を改めて問うものです。

技術の進歩は歓迎されるべきですが、その影響を無視することは許されません。より健全なデジタル環境を築くためのアクションが急務です。

ネットからのコメント

1、試しに自分で作った画像に手書きの文字や模様を重ねてそれを消すように指示したら消えてしまったので、これは本当にまずい機能だと思います。ただ、必ずしも綺麗に消えるわけではなく絵に綺麗に馴染むように書かれた文字などは違和感のある消しあとになったので、WMは絶対に入れたほうがいいです。ただ、投稿者があくまでXに対して学習を許可している状態だったとしても、第三者に対して改変を許可したことには全くならないので、ここを勘違いした閲覧者が他人の絵の著作権表示を消して「私が描きました」などと言えば当然違法だし、目の色だの髪型だの勝手に改変してアイコンにしても当然問題になります。

2、悪用というより同一性保持権（著作者の意に反する改変をされない）の侵害を直球ど真ん中で推奨するような機能で驚いている。そういうのはこっそりやるもんだろうし、画像編集アプリも「著作権を侵害する行為は（そういう使われ方が想定されていても）NG」と釘を刺しているのではないかな。

自分はAIによる画像生成を否定しない（却って面白いと思ってる）が、さすがにこうなっちゃうと「元画像改変」でしかないでしょ。

3、SNSは災害などが起きた時の貴重な情報源として期待されていたけど、これからは投稿される画像や動画が本当にホンモノかどうかを常に疑わないと行けない厄介な時代になって来ましたね。もちろんAIが登場する以前から加工やCGで作られた偽情報があった訳だけど、生成AIの普及で格段に偽情報が氾濫しやすい土台が出来てしまった。ここに来てネット社会の未来に大きな暗雲が立ち込めて来たと思います。生成AIはパンドラの箱を開けたのと同じだったのかも…

4、AI加工機能よりも、AI判別機能のほうが欲しいくらいです。現状では、面白かったり珍しかったりする写真や動画を見るたびに、「これってAIじゃない？」とまず疑わなければならず、本当に疲れます。>AI生成されたものであると示す「画像を編集」の表示が現れる。そのスカシ自体もAIで消せてしまう場合があるんですよね。「これはスカシなので消せません」と適切な回答が返ってくることもあれば、スカシの色を指定すると消せてしまうこともあったりして…