今年2月、カナダ西部のブリティッシュコロンビア州で18歳の容疑者が家族や学校関係者8名を殺害した後、自殺するという悲惨な銃撃事件が発生しました。調査によると、容疑者は犯行前にオープンAIのチャットGPTに計画を相談しており、オープンAI側はその情報を事前に把握していたものの、「通報基準に該当しない」として何ら警察への通知を行わず、アカウントの停止措置に留めました。この対応が広く批判を受ける中、オープンAIのサム・アルトマンCEOは正式に謝罪を発表。「もう二度とこのようなことを起こさないよう努力する」と誓いましたが、地域住民や州首相からは、謝罪の不十分さを指摘する声が上がっています。この事件はAIの役割と倫理に関する重大な問題を提起しています。

この事件は、AI技術の急速な発展による新たな社会課題を露呈しています。

チャットGPTが犯罪計画という危険な相談を受けながら、通報基準に該当しないと判断したこと、そしてその結果として8人もの命が失われた事態は、AI企業と規制当局の倫理判断の欠陥を如実に示しています。この状況の背後には、AIの監視基準の曖昧さがあり、それが最悪の結果を招いたと言えます。

AIが社会的に広範な影響を及ぼすツールとなった以上、実効的な改善措置が求められます。まず第一に、AIシステムが危険な相談を受けた場合の迅速な通報義務をより厳格化し、警察や専門家とタイムリーな連携を取る仕組みを構築することが不可欠です。第二に、通報基準の具体化と透明化を進め、基準外であったとしても人命が関わる場合には例外として即時通報する柔軟性を付加するべきです。さらに、第三に、AI開発者の倫理教育を強化し、技術革新と社会的責任の両立を最優先事項として捉える文化を醸成する必要があります。

この事件は単なる過失ではなく、命の重さを軽視した技術運用の失敗そのものです。人命を守ることは何よりも重要で、技術進化も人間社会の安全の上に成り立つものでなければなりません。

この痛切な教訓を無駄にせず、未来に向けた変革を目指すべきです。

ネットからのコメント

1、犯罪の責任は、あくまで実行した本人にあります。AIは道具であり、包丁や検索エンジン、薬や医療機器と同じく、使用者の悪用まで無制限に結果責任を負わせるべきではありません。一方で、明白かつ差し迫った危険がある場合には、事業者が合理的に対応する仕組みは必要です。感情的な責任転嫁ではなく、通報基準や介入範囲を明確にする議論こそ重要だと思います。

2、ユーザーがAIに不穏な相談をすると、しっかり記録されて内部でスタッフがチェックする仕組み自体は、すでに存在するようですね。今回は、そういった仕組みがあったのに、通報に繋がらなかったことが問題視されているのだと思います。日本でも、チャッピーに何でも相談･･･してると、相談内容によっては、引っかかって警察が駆けつける可能性もあると思います。

3、＞容疑者は去年6月オープンAIの「チャットGPT」に犯行を相談し、オープンAI側は事前にそれを把握余程の財力でプライベートAIでも用意しない限り、個人がAIを使う以上プライバシー（通信の秘密）はなくなる、ということだね。

別にいいと思うし、仕方ないとも思うけど、そうすると国家のスパイ防止法にはプライバシー侵害で反対して、AI（企業、組織）による収集は良いのか、という気もしてくるが。収集する主体（国か企業か）によって考え方、取り扱い方を変えるということもあるかもしれないが、国は危険だが企業なら安心とは決してならないだろう。すると、情報収集はデファクトスタンダードとなり、もはや国にだけ制限を掛ける方が犯罪防止などの観点からデメリットが大きくなる世の中が来そうではある。将来的には、特定のプロトコル（決済など）を除けば、ネット空間でのプライバシーがなくなっていくのかもしれない。

4、殺人について調べる本を借りまくる人がいたら、図書館は通報する義務はあるか？完全犯罪の方法を検索しまくる人がいたらその検索エンジンの会社は通報する義務はあるか？また、オープンAIが通報したとしても警察は「容疑者」に対して何ができるのか？