日本では2026年、生成AIを悪用した偽の名言動画やXの「インプレゾンビ」が収益目的で拡大している。2026年7月18日の報道では、日本語動画は1000回再生当たり約6～7ドルと、ベトナム語の0.5ドル以下より10倍以上高い収益性が背景にあるとされた。また、Xは2026年2月にAPI経由のリプライを大幅制限したが、不正投稿は依然続いている。海外から生成AIで日本語コンテンツを大量作成し、偽情報や権利侵害を伴う投稿で利益を得る実態が問題となっている。

偽の名言動画やインプレゾンビが放置され続ければ、利用者は何を信じればよいのか分からなくなり、情報空間そのものへの信頼が崩れてしまう。問題は一部の悪質投稿者だけでなく、再生数や反応が収益に直結する仕組みと、生成AIを前提とした監視体制が追いついていないことにある。まず、AI生成コンテンツの表示義務や本人確認を強化し、悪質な収益化を停止すること。次に、権利者が迅速に削除を求められる仕組みと罰則を整備すること。さらに、海外からの組織的な不正投稿をプラットフォームと各国当局が連携して監視し、利用者も通報やブロックを徹底することが必要だ。

便利な技術は社会を豊かにするためのものであり、嘘を大量生産して利益を得る道具であってはならない。信頼を守る仕組みを強化できるかどうかが、健全な情報社会の未来を左右する。

ネットからのコメント

1、「信頼できない動画は再生しない」それは分かるが、信頼できるかできないか、フェイクなのかそうでないのかは観てみないことには分からない。視聴者側も自己防衛のためにそういう意識は大切だが、社会的対策として一義的にはそれを提供する手段を供与しているプラットフォーム側の対策のほうが求められると思う。観た人から通報があった動画について、プラットフォーム側が速やかに検証して収益化できないようにすることが重要だと思う。また、スポンサー側も詐欺動画やフェイク動画に自社のCMが使われていないか注意する必要がある。なかなか技術的に難しい課題はあるのだろうが、プラットフォームやスポンサーは片棒を担いでいるという意識で取り組んでほしい。

2、生成AIのおかげで、昔なら手間がかかった偽動画や偽投稿が、今は誰でも大量に作れる時代になりました。

そのスピードに、YouTubeやXなどのプラットフォームの対策が追いついていないのが実情です。視聴者に「怪しいものは見ないように」と言われても、本人の声や顔がAIで自然に再現されていたら、最初からフェイクだと見抜くのはかなり難しいと思います。悪質な投稿を削除しても、新しいアカウントを作ってまた始める人もいるため、いたちごっこになっています。収益化の条件をもっと厳しくしたり、AIで作ったコンテンツだと分かる表示を義務づけたり、繰り返し違反するアカウントは収益化できないようにするなど、仕組みそのものを変えていくことが必要ではないでしょうか。

3、信頼できない動画は再生しない、信頼できないアカウントはフォローせずブロック・通報するなどの対処が大切です。簡単に言ってくれる。信頼できない動画か否かは、ほとんどの場合で再生してみないと判断できませんよ。明らかに怪しいアカウントというのも昨今では判断つきにくくなってます。何でもかんでもフォローなんて人は今どき少ないでしょうが、それでもSNSのアルゴリズムに抗うのはそれを意識し続けられる人でもかなり困難なんですよ。

4、大谷翔平選手のまとめ動画(感動話)や日本人が素晴らしい、料理やサービスが最高！みたいな動画も怪しい。日本人として嬉しいのだが、AIや自動ナレーションが不自然なものが多くて変だな、と思ってたけど、そんなカラクリがあったとは。日本人の自尊心や虚栄心を満たす手口がいやらしい。これからは気を付けようと思う。