8日深夜、青森県東方沖で地震が発生し、最大震度6強を記録した。気象庁は北海道、青森県、岩手県に津波警報、宮城県、福島県に津波注意報を発表した。その後、警報は午前2時45分に注意報へ、午前6時20分に解除された。しかし、9日午前2時10分頃、グーグル検索でAIが誤情報を表示する問題が発生。警報が出ているにも関わらず解除されたと誤った回答がされ、問題が繰り返された。

このAI機能は信ぴょう性に問題があると専門家が指摘している。

AIの誤情報提供に公衆の安全が脅かされたこの事件は、深刻な問題を浮き彫りにしている。特に危機管理が求められる場面で、AI技術が信頼できないという事実は許される問題ではない。AIの「ハルシネーション」現象により、実際の状況を誤って伝えることは、市民の安全への影響を考慮すると無視できない。まず、政府や災害情報を扱う組織は公式情報の提供手段を強化し、公信力のある情報源にアクセスする方法を市民に教育する必要がある。次に、技術企業はAIの精度を向上させ、監視システムを導入して誤情報の早期検知を可能にすべきだろう。そして、一般市民は複数の信頼できる情報源を確認する習慣を身につけることが重要である。人命がかかっているとは、慎重さを不可欠とする価値観の対比を引き起こす。

社会の安全を守るためには、AIが生成する情報の正確性と透明性が求められる。

ネットからのコメント

1、これに限らず、Google検索で出てくるAIの回答は誤情報が多い。フィードバックを送っても反映されず、誤った情報が出続けている。文章だけはもっともらしく自然な文章だから、正誤判断も難しくなっている。AIの回答を強制表示するのは時期尚早だと思う。

2、AI概要割と便利だけど、単にこの内容はあっていますか？とか情報の誤りを指摘すると言ったボタンか何かをわかりやすく見える形で記載するだけでも違うんじゃないのかな。AIがまとめようが人間がまとめようが情報の正確性は読み手が確認しなければならないのは今も昔も変わらない。正確性を求めるのであれば公式情報を当たるのが大事。

3、問題なのはAIを使いたくて使ったんじゃなく、普通にGoogleで検索しただけなのに、勝手にAIによる回答が検索結果の最上部に出ること。これは、Googleの信頼性を損なうし、Googleが今後訴えられても仕方ないと思う。

4、これは人為的ではないとは言え、人命に関わる重大な誤報にあたる。

課徴金や国民の生命財産に対する懸案など重大事項に対してAI回答を使用しないなど事業内容を規制するべき事案。防災庁と総務省で本件内容を精査し、Google日本法人に対する行政処分も含めて検討するのが宜しいかと思う。