Um sobrevivente de um tiroteio em escola no Tennessee está processando a Omnilert, uma empresa de detecção de armas por inteligência artificial. O sistema da empresa não conseguiu identificar a arma que causou duas mortes em janeiro de 2025. A ação judicial, protocolada em Davidson County, alega que a Omnilert tinha conhecimento das limitações operacionais de seu sistema, mas não as divulgou adequadamente.
A Omnilert, junto com a System Integrations, que revendeu o sistema, não se manifestou sobre o processo. Em 2023, o conselho das Escolas Públicas Metropolitanas de Nashville (MNPS) aprovou um contrato de mais de US$ 1 milhão para integrar a detecção de IA à sua rede de câmeras. No entanto, após o incidente, um porta-voz da MNPS explicou que a posição do atirador em relação às câmeras impediu uma leitura precisa e a ativação do alarme.
O processo judicial cita frequentemente o material de marketing da Omnilert, que prometia que a detecção visual por IA poderia ter evitado tragédias como a de Marjory Stoneman Douglas. O marketing, preservado no Internet Archive antes do tiroteio, não mencionava alarmes falsos ou limitações de detecção. Isso levanta a questão: como podemos confiar em sistemas que não são transparentes sobre suas capacidades?
“Omnilert não fez menção a alarmes falsos, falsos positivos ou limitações de detecção de qualquer tipo em seu site comercial pré-tiroteio.”
Chris Smith, um dos advogados do autor, expressou ceticismo sobre a eficácia da detecção de armas por IA. Ele comparou a situação ao “piloto automático” da Tesla, afirmando que a tecnologia não está pronta para aplicações críticas como a segurança escolar. “Por que isso é melhor do que um detector de metal?”, questionou.
Especialistas em segurança, como David Riedman, que mantém o K-12 School Shooting Database, também criticam o investimento. Ele argumenta que os recursos gastos em tais sistemas poderiam ser melhor direcionados para conselheiros ou outras formas de apoio a estudantes em crise. “Toda decisão que você toma desvia recursos de algo mais”, disse Riedman. Este é o primeiro processo desse tipo contra a Omnilert, o que pode abrir precedentes importantes para a responsabilidade de empresas de tecnologia em segurança pública.