EGD: tecnología de detección de disparos provocará más asesinatos policiales en San José

Estaba cerca de las temperaturas bajo cero en las primeras horas de la mañana cuando la policía de Chicago recibió una alerta de su solución de tecnología de detección de disparos (GDT), ShotSpotter.

Al parecer, se habían realizado disparos en el barrio de La Villita de la ciudad, un área predominantemente poblada por personas latinas. Los oficiales se apresuran al lugar para encontrar a Ruben Roman, de 21 años, y Adam Toledo, de 13, en un callejón. Consiguieron aprehender a Roman, pero Toledo se escapó.

Un oficial alcanzó a Toledo y le ordenó que se detuviera. Él cumplió. El oficial exigió que Toledo levantara las manos. Nuevamente, obedeció, arrojando un arma al mismo tiempo. El oficial le disparó fatalmente a Toledo menos de un segundo después de que levantara las manos.

La historia y las imágenes que lo acompañan de la muerte del niño causaron indignación pública en todo el país. También resurgió el debate sobre la privacidad, la eficacia y las preocupaciones morales de GDT, una tecnología que ha llegado recientemente a San José.

El Departamento de Policía de San José es actualmente está probando tecnología de detección de disparos en dos vecindarios de San José: Clemence / Owsley, justo al sur de Little Saigon en el este de San José, y Cadillac / Winchester en el oeste de San José. Los sistemas, apodados en sonido por su fabricante Sistemas V5, están montados en casi todas las demás farolas. La compañía con sede en Fremont afirma aprovechar la inteligencia artificial "para detectar una amplia gama de tipos de disparos", y promete "hasta un 90% de precisión" sin proporcionar ninguno de los datos utilizados para alcanzar esa cifra.

La tecnología también está acompañada por V5 Systems ' A la vista lector automático de matrículas, registrando eficazmente cada automóvil que entra y sale de esos vecindarios.

Privacidad

Desafortunadamente, "inteligencia artificial" no es un término regulado. A menudo utilizado como jerga de marketing, se puede traducir en algo parecido a "pesadilla de privacidad" o "tecnología falsa". ShotSpotter, el GDT utilizado en Chicago, también los revendedores usan de IA, pero Dana Delger de el proyecto de la inocencia encontró lo contrario en el caso de su cliente Silvon Simmons, quien era culpables fabricados de posesión ilegal de un arma de fuego basada en grabaciones de ShotSpotter. “Al final del día, esta es una máquina que básicamente puede decirte que hubo un sonido fuerte y luego un humano tiene que decirte si fue un disparo o no”, dijo Delger.

OnSound parece funcionar de manera similar. Todo el audio se transmite a la infraestructura en la nube de V5 Systems y sus analistas "verifican, informan y responden a las alertas de análisis de disparos" antes de enviarlas a la policía. Esto plantea la pregunta: ¿cuánto de audio están escuchando sus analistas? ¿A cuánto tienen acceso? Ninguna de estas preguntas se responde en V5 Systems ' políticas de privacidad.

ShotSpotter, que es la solución de detección de disparos más utilizada en el país, se ha enfrentado a cuestiones similares tras haber sido objeto de muchas auditorías de terceros. Quizás el más notable fue realizado por Proyecto de vigilancia policial de la Facultad de Derecho de la Universidad de Nueva York en el 2019. El informe proporcionó varias recomendaciones para preservar la privacidad, una de las cuales es "mejorar los controles internos y la supervisión con respecto al acceso al audio", que ShotSpotter reclamaciones haber implementado.

El informe también concluyó que “el riesgo de la vigilancia por voz es extremadamente bajo en la práctica”, sofocando las preocupaciones de que la tecnología ShotSpotter podría usarse para escuchar conversaciones a escondidas.

Si V5 Systems se ha involucrado en una auditoría similar, no pude encontrar los resultados, ni respondieron a mis preguntas tratando de aclarar estas preocupaciones de privacidad. SJPD ha reclamado que solo ellos tendrán acceso al video también capturado por el sistema, pero esa afirmación contradice la de V5 Systems. documentación pública.

Eficacia

Sin embargo, la privacidad es solo una cara de la moneda. La eficacia de estos sistemas podría marcar la diferencia entre la vida y la muerte. Dave Maass, director de investigaciones de la Electronic Frontier Foundation, dijo al Las Vegas Review Journal hace solo dos meses que al recibir una alerta de un sistema de detección de disparos como la policía de ShotSpotter “podría suponer que se trata de una situación violenta con un tirador activo, por lo que entrarán listos para lidiar con una situación de disparos ... potencialmente estamos poniendo a la gente en un situación de vida o muerte ".

Las afirmaciones de precisión y eficacia de ShotSpotter se sometieron a juicio en un tribunal de San Francisco en 2017. Cuando se le preguntó sobre la garantía de la compañía de identificar con precisión los disparos el 80% de las veces, un ingeniero de ShotSpotter declaró que la "garantía fue elaborada por nuestro departamento de ventas y marketing, no por nuestros ingenieros".

Además, la investigación Lanzado a principios de este año por el Centro de Justicia MacArthur de la Universidad de Northwestern mostró que solo el 10% de las alertas de ShotSpotter en Chicago desde julio de 2019 hasta abril de 2021 llevaron a la policía a presentar un informe de incidente relacionado con un arma. Sin embargo ShotSpotter afirma tener una "tasa de precisión agregada del 97%". Como se indicó anteriormente, OnSound de V5 Systems reclamaciones una tasa de precisión ambigua de "hasta el 90%".

Si la investigación y el análisis muestran que un producto de décadas de antigüedad y ampliamente implementado todavía no está a la altura de sus afirmaciones de precisión, ¿por qué SJPD está probando un sistema que aparentemente se ha enfrentado a cero escrutinio? Para un departamento de policía que ha matado a 20 personas en los últimos cinco años, el más reciente de los cuales, Demetrius Stanely, fue la semana pasada, espero que estén más preocupados por verificar la precisión de su propia tecnología.

Dejando a un lado la privacidad y la eficacia: ¿esta tecnología pertenece a nuestra ciudad?

En el caso de Adam Toledo, ShotSpotter acertó. El otro detenido en el lugar, Rubén Román, había disparado un arma. Pero la tecnología aún condujo a una situación en la que un inocente estudiante latino de séptimo grado fue asesinado después de cumplir con la policía. Incluso si la tecnología fuera siempre 100% precisa y la privacidad perfectamente preservada, aún conduciría a situaciones mortales. No tiene cabida en nuestra ciudad.

Para que su voz se escuche en el programa piloto de SJPD de estas tecnologías, firme esta petición exigiendo más transparencia en torno a la tecnología, sus afirmaciones y las intenciones del departamento.

El columnista de San José Spotlight Ethan Gregory Dodge es el fundador de la Coalición de Privacidad de Ciudadanos del Condado de Santa Clara. También es el creador de Vigilancia hoy, un boletín semanal y un podcast en el que se analizan los acontecimientos actuales en materia de vigilancia. Sus columnas aparecen cada segundo miércoles del mes. Póngase en contacto con Ethan en [email protected] o siga a @egd_io en Twitter.