7日、米IT大手メタはインスタグラム投稿を利用したAI画像生成機能を発表したが、利用者が拒否設定をしない限り公開投稿が第三者の画像生成素材として利用できる仕様だったため、プライバシー侵害との批判が急速に拡大した。米消費者団体や俳優組合などが強く反発し、メタは10日に機能の廃止を発表。公開からわずか4日でサービス終了となり、AI活用における同意取得の在り方が改めて問われる結果となった。

企業が利便性や技術革新を理由に、利用者の権利より先にサービス展開を優先したことが今回最大の問題だ。「拒否しなければ同意した」と見なす発想は、利用者本位ではなく企業都合の設計であり、プライバシー保護の原則から大きく外れている。社会の信頼は、後から謝罪して機能を止めれば回復するものではない。まず、個人データや画像利用は「明確な事前同意（オプトイン）」を必須とするべきだ。

次に、AI機能は公開前に第三者機関によるプライバシー審査を受ける仕組みを整える必要がある。さらに、利用履歴の可視化やワンクリックで利用停止・削除できる仕組みを標準装備し、透明性を徹底すべきだ。技術は人の権利を守るために進歩するのであって、人の権利を犠牲にして進歩するものではない。その順序を履き違えた企業に、利用者の信頼は決して長くは預けられない。

ネットからのコメント

1、これが悪手であることはわかっていただろうと推測するかな。たぶんテストに近いものでどのくらいの拒否反応があるのかというのも含めて撤退を最初から計算して導入している気がする。数日とはいえ壮大な実験になるし、短期間でも利用者はかなりの数の生成を行っただろう。それがラーニングに生かされるわけで、一時的に強制許諾であった事実は非常に重要で。許諾中に取得されたものは合法と強弁できる。かなりのデータを手中にしたのではないか。

2、AI生成は早く規制と取締りを強化しないと、本当に良くないし、今、既に悪用している人も決して逃がさない仕組みを作って欲しい。

3、生成AI動画や画像は、直ちに法律で規制する必要が有る。　Youtubeショートに投稿される動画とかも、余程、よく見なければAI動画と分からない時代になった。　凄い事をやっていても、どうせAIと思う様になってしまい、どんな動画も面白く無くなってしまった。　今後は、AI動画やAI画像を使った詐欺等の発生も懸念される。　例えば「AI動画や画像を使う際には、画面の中にAI動画又はAI画像で有ることを、ハッキリと示す表示を一定の大きさ以上で入れなければならない。」　違反した場合は、刑罰を付すと言う実効性の有るものにする。　と言う様な法規制を直ちにすべきである。

4、声までそっくりに出来るらしいから、本人の知らないところで自分が貶められるような動画をアップされたら迷惑だよね、すぐにスマホやパソコンが特定できるようにしないと、悪質な海外サーバ－経由はアップできないように。