米フロリダ州の大学で昨年4月に8人が死傷した銃撃事件について、地元司法当局が21日、被告の男子学生と生成人工知能「チャットGPT」および運営会社オープンAIを刑事捜査の対象にすると発表しました。被告がチャットGPTを使用し、銃の種類、多人数を狙う時間帯や場所について助言を得た可能性が指摘されています。被告は第1級殺人罪で起訴され、司法当局はチャットGPTのやりとりに犯罪助長の要素がないかを検証する方針です。一方、オープンAIは捜査に協力しつつ、違法行為を助長していないとの立場を示しました。この事件で2人が死亡、6人が負傷しています。

AIが犯罪の補助に利用された可能性があるという点で、技術規制と倫理的責任が問われます。特にAIが具体的かつ危険な情報を発信した場合、その影響力は計り知れません。この事件は、AIが持つ利便性と潜在的な危険性の狭間を浮き彫りにしました。

まず、AI設計段階での倫理的制御強化が急務です。例えば、有害な質問を識別し回答できない仕組みをさらに精緻化するべきです。また、APIやユーザー利用に適切な制限をかけることで、悪意ある操作を防ぐ必要があります。さらに、運営会社が定期的な外部監査を受けることで透明性を確保し、責任逃れを防ぐ対策が求められます。

AIは可能性あふれる技術である一方、規制が不十分であれば社会安全を脅かします。我々は、便利さに溺れることなく、厳しい目で技術の健全な運用を監視する意識を持たねばなりません。AIが「利便性」か「危険」か、その答えを決めるのは人間そのものなのです。

ネットからのコメント

1、AIを使って調べただけで、別の作業でも調べられるんだからAI提供元が提供をやめたら止めれた訳ではないのではと思う。でも容易に危険な情報へアクセス出来るってのが駄目って言うのは分からんでもないので規制方法を考えるのはAIを発展させていく上で良い事だと思います。

2、AIが関わっていたと聞くと強い印象を受けますが、それだけで話を単純化してしまうのは少し違う気がします。

情報という側面で見れば、インターネットもAIも本質的には同じで、既に存在する知識にアクセスする手段に過ぎません。ただ一方で、やり取りの中で助言のように見える形になると、第三者が関与しているような感覚が生まれるのも確かだと思います。だからこそ問われるのは、どこまでがツールで、どこからが判断なのかという線引きです。AIは人に近い形で答えを返しますが、最終的にそれをどう受け取り、どう行動するかは人間側の責任から逃れられません。技術そのものを悪者にするよりも、それをどう使うかという前提を見失わないこと。その意識がなければ、便利さに任せて判断まで委ねてしまう危うさもあるのではないでしょうか。

3、今回の件は、AIを擬人化して責任を問う点で違和感が強い。本来、刑事責任は実行主体である被告に帰属すべきであり、情報提供ツールにまで責任を拡張するのは論理的に不整合である。これはPC検索や書籍、会話にまで責任を問う議論と同質になり、社会的に成立しない。一方でAIは対話的かつ個別最適化された助言が可能であり、従来ツールと完全に同一とは言えない。

論点は「情報提供」と「行為支援」の境界設計であり、感情的に責任を拡張するのではなく、この線引きを制度として整理すべき問題である。

4、武器の種類や殺人に適した時間帯とか聞いてみたが、答えられないとの回答だった。容疑者がどんなプロセスでチャッピーに聞いたのかはわからんが、単純に聞いても阻止されるのが事実。慎重にみた方が良い