AIがスナック菓子の袋を銃だと誤認識したせいで男子生徒が武装警官に取り囲まれて手錠で拘束される事態が発生

アメリカでは銃撃事件が多発しており、監視カメラとAIを用いた銃火器自動検知システムを導入する学校や企業が増えています。ところが、メリーランド州ボルチモアの学校ではドリトスの袋をポケットに入れていただけの男子生徒が銃を所持していると誤検知されて武装警官に取り囲まれる事態が発生しました。

AI software mistakes student's bag of chips for a weapon
https://www.wbaltv.com/article/student-handcuffed-ai-system-mistook-bag-chips-weapon/69114601

Teen detained after AI system mistakes chips for weapon outside Kenwood High School
https://foxbaltimore.com/news/local/teen-detained-after-ai-system-mistakes-chips-for-weapon-outside-kenwood-high-school

事態に巻き込まれたのは、ボルチモアのケンウッド・ハイスクールに通う16歳のタキ・アレンさんです。アレンさんは2025年10月20日の夜にアメリカンフットボールの練習に参加し、練習後に座りながら友人たちとドリトスを食べていました。そこに約8台のパトカーがやってきて、アレンさんは銃を持った警官たちに取り囲まれてしまいました。

警官はアレンさんに「地面に伏せろ」と命令し、両手を後ろに回させて手錠で拘束した上で、身体検査を実施。警官はアレンさんに対して「AI検知器がアレンさんが武器を持っていると判断したことを示す画像」を見せました。しかし、アレンさんはクシャクシャになったドリトスの袋を持っていただけで、銃は所持していませんでした。

取材に答えるアレンさん。警官に取り囲まれた際には死の恐怖を感じたとのこと。学校にも行きづらくなったと語っています。

アレンさんはこんな感じにドリトスの袋を持っていただけとのこと。

ケンウッド・ハイスクールではOmnilertという企業の銃検知システムを導入していました。Omnilertは監視カメラとAIを組み合わせた銃検知システムを提供しており、カメラに写る人物が銃を持っていると判断すると契約者に通知を送信します。

Omnilertは今回の事態について誤検知を認めつつ、「システムは、迅速な人間による確認を通じて安全を最優先にするという意図通りに機能した」と述べています。また、学校は影響を受けた生徒に対するカウンセリングサービスの提供を約束していますが、アレンさんには学校側からの連絡はなかったそうです。