中国の自動運転タクシー「Apollo Go」が3月31日夜、湖北省武漢市で複数台停止するトラブルを起こした。システム障害が原因と警察は発表し、住民や乗客から閉じ込められた車両への通報が相次いだ。一部乗客は車内で30分以上拘束されたことやカスタマーサービスへの連絡がつながらないなど不便を訴えた。SNS上では動画が拡散され、問題の深刻さが浮き彫りとなった。百度は現在までコメントを出していない。同サービスは武漢市だけで500台以上を運行し急成長する一方、今回の事件により自動運転技術の信頼性への課題が指摘される結果となった。

この事件は、自動運転技術の普及の速度と安全性が追いついていない現状を露呈しています。まず本件で最も異常なのは、自動運転車が停止する事態そのものだけでなく、その後の緊急対応体制が機能しなかった点です。

乗客が閉じ込められた状況で、カスタマーサービスが役に立たない状況は公共の安全を著しく損ねています。

問題の本質は、技術の急速な普及と安全管理体制の遅れ、特に応急対応の欠落にあります。企業の発展の勢いに対し、危機への対応システムが充分設計されていない構造的欠陥があるのではないでしょうか。また、システム障害の多発を防ぐための事前検証や試験体制が十分だったか疑問が残ります。

解決策としては、第一に、運行停止時の優先手段として、人間の介入が可能となるバックアップシステムの導入を検討すべきです。第二に、乗客が徒歩で脱出可能な構造に変更し、閉じ込めのリスクを物理的に排除する方策を講じるべきです。第三に、運行開始前には安全監査を義務付け、国家主導で基準を設定し、技術者・製造者側の責任を明確化することが重要です。

今回の件は、便利さを急ぐ社会や企業の姿勢が見直されるべき契機です。人命を軽視することなく、技術の進歩と安全性の両輪が揃った未来へと進むことが求められています。人間性を守るシステムこそが真の「進歩」を表す基準であるべきです。

ネットからのコメント

1、車の自動運転は基本的にコンピュータで制御されてると思う。で有ればシステム障害や悪意のあるサイバー攻撃に備えるのは必須だろう。交通事故などは人命にも関わる。安易に人手不足や便利性だけを求めるのではなく耐障害性も非常に重要だと思う。

2、システム障害は、発展途上と言うことである程度は仕方ないんですけど、フェールセーフが組み込まれていたのかどうかは気になりますね。「路上で停止」は安全に路肩に停車したのか不明ですが、「閉じ込められた」は乗車している人間の保護とは言えないように感じます。システムの異常を検知した際に、アプリから強制的に切り離されたカーネルが独自の安全判断で搭乗者を護るような設計は必須だと思います。

3、システムは非常に繊細なもの。システム内で何かが狂えば、動かなくなってしまう。恐らく、あくまで推測だが、悪意ある者にシステムがハッキングされたりしたことが原因でなければ、直近に何処かプログラムを修正して、更新したのだろう。その修正が何かをキッカケに不具合を起こした可能性がある。

人間は少し体調が悪くても、運転もコミュニケーションも可能だが、システムは少しでもおかしくなると機能しなくなり、反応もなくなり、何が起きているか分からないため、不安は大きくなる。自動運転は便利だが、常に、いつ何が起きるか不明瞭な点が残る。やはり、人間のドライバーの方が急なトラブルが殆どなく、安心できる。

4、最近アメリカでも停電で信号が消えた事でタクシーが動かなくなったとかありましたね。幾ら自動運転が発達しても、インフラやサーバー等が使えなくなれば自律航行すら出来なくなるのですから、まだまだ改良の余地があると思います。理想はインフラが麻痺しても、警察の手信号等にも適切に反応し航行出来ることですが、そこまでの道のりは長そうですね…