En las primeras horas de la mañana, las temperaturas rondaban el punto de congelación cuando la policía de Chicago recibió una alerta de su solución de tecnología de detección de disparos (GDT, por sus siglas en inglés), ShotSpotter.
Al parecer, se habían realizado disparos en el barrio de La Villita de la ciudad, un área predominantemente poblada por personas latinas. Los oficiales se apresuran al lugar para encontrar a Ruben Roman, de 21 años, y Adam Toledo, de 13, en un callejón. Consiguieron aprehender a Roman, pero Toledo se escapó.
Un oficial alcanzó a Toledo y le ordenó que se detuviera. Él cumplió. El oficial exigió que Toledo levantara las manos. Nuevamente, obedeció, arrojando un arma al mismo tiempo. El oficial le disparó fatalmente a Toledo menos de un segundo después de que levantara las manos.
La noticia y las imágenes que acompañaban la muerte del niño provocaron indignación pública en todo el país. También reavivaron el debate sobre la privacidad, la eficacia y las preocupaciones éticas de la GDT, una tecnología que ha llegado recientemente a San José.
El Departamento de Policía de San José está probando tecnología de detección de disparos en dos barrios de la ciudad: Clemence/Owsley, al sur de Little Saigon, en el este de San José, y Cadillac/Winchester, en el oeste. Los sistemas, denominados OnSound por su fabricante , V5 Systems , están instalados en casi todas las farolas. La empresa, con sede en Fremont, afirma utilizar inteligencia artificial para detectar una amplia gama de tipos de disparos y promete una precisión de hasta el 90%, sin proporcionar los datos utilizados para alcanzar dicha cifra.
Esta tecnología también se complementa con el lector automático de matrículas OnSight de V5 Systems , que registra de forma efectiva cada coche que entra y sale de esos barrios.
Privacidad
Desafortunadamente, el término "inteligencia artificial" no está regulado. A menudo utilizado como jerga de marketing, puede traducirse como "pesadilla para la privacidad" o "tecnología engañosa". ShotSpotter, el sistema de detección de armas utilizado en Chicago, también promociona el uso de IA; sin embargo, Dana Delger, del Proyecto Inocencia, descubrió lo contrario en el caso de su cliente Silvon Simmons, quien fue condenado injustamente por posesión ilegal de un arma de fuego basándose en las grabaciones de ShotSpotter. "En definitiva, se trata de una máquina que básicamente te dice que hubo un sonido fuerte, y luego un humano tiene que determinar si se trató de un disparo o no", afirmó Delger.
OnSound parece operar de manera similar. Todo el audio se transmite a la infraestructura en la nube de V5 Systems, y sus analistas "verifican, informan y responden a las alertas de análisis de disparos" antes de enviarlas a la policía. Esto plantea la pregunta: ¿cuánto audio escuchan sus analistas? ¿A cuánto tienen acceso? Ninguna de estas preguntas se responde en la política de privacidad de V5 Systems.
ShotSpotter, la solución de detección de disparos más utilizada en el país, se ha enfrentado a interrogantes similares tras someterse a numerosas auditorías externas. Quizás la más destacada fue la realizada por el Proyecto de Vigilancia Policial de la Facultad de Derecho de la Universidad de Nueva York en 2019. El informe ofreció varias recomendaciones para preservar la privacidad, entre ellas, «mejorar los controles internos y la supervisión del acceso al audio», algo que ShotSpotter afirma haber implementado.
El informe también concluyó que “el riesgo de la vigilancia por voz es extremadamente bajo en la práctica”, sofocando las preocupaciones de que la tecnología ShotSpotter podría usarse para escuchar conversaciones a escondidas.
Si V5 Systems realizó una auditoría similar, no pude encontrar los resultados ni respondieron a mis preguntas para aclarar estas preocupaciones sobre la privacidad. El Departamento de Policía de San José (SJPD) afirmó que solo ellos tendrán acceso al video capturado por el sistema, pero esta afirmación contradice la documentación pública de V5 Systems.
Eficacia
Sin embargo, la privacidad es solo una cara de la moneda. La eficacia de estos sistemas podría ser la diferencia entre la vida y la muerte. Dave Maass , director de investigaciones de la Electronic Frontier Foundation , declaró al Las Vegas Review Journal hace apenas dos meses que, al recibir una alerta de un sistema de detección de disparos como ShotSpotter, la policía «podría asumir que se trata de una situación violenta con un tirador activo, por lo que entrarían preparados para afrontar un tiroteo… potencialmente estamos poniendo a la gente en una situación de vida o muerte».
Las afirmaciones de ShotSpotter sobre la precisión y la eficacia fueron puestas a prueba en un tribunal de San Francisco en 2017. Cuando se le preguntó sobre la garantía de la compañía de identificar con precisión los disparos en el 80% de los casos, un ingeniero de ShotSpotter declaró que "la garantía fue elaborada por nuestro departamento de ventas y marketing, no por nuestros ingenieros".
Además, un estudio publicado a principios de este año por el Centro de Justicia MacArthur de la Universidad Northwestern reveló que solo el 10 % de las alertas de ShotSpotter en Chicago, entre julio de 2019 y abril de 2021, derivaron en la presentación de un informe policial sobre un incidente con armas de fuego. Sin embargo, ShotSpotter afirma tener una tasa de precisión agregada del 97 %. Como se mencionó anteriormente, OnSound de V5 Systems afirma una tasa de precisión ambigua de hasta el 90 %.
Si la investigación y el análisis muestran que un producto de décadas de antigüedad y ampliamente implementado todavía no está a la altura de sus afirmaciones de precisión, ¿por qué SJPD está probando un sistema que aparentemente se ha enfrentado a cero escrutinio? Para un departamento de policía que ha matado a 20 personas en los últimos cinco años, el más reciente de los cuales, Demetrius Stanely, fue la semana pasada, espero que estén más preocupados por verificar la precisión de su propia tecnología.
Dejando a un lado la privacidad y la eficacia: ¿esta tecnología pertenece a nuestra ciudad?
En el caso de Adam Toledo, ShotSpotter acertó. El otro detenido en el lugar, Rubén Román, había disparado un arma. Pero la tecnología aún condujo a una situación en la que un inocente estudiante latino de séptimo grado fue asesinado después de cumplir con la policía. Incluso si la tecnología fuera siempre 100% precisa y la privacidad perfectamente preservada, aún conduciría a situaciones mortales. No tiene cabida en nuestra ciudad.
Para que tu voz sea escuchada en el programa piloto de estas tecnologías del Departamento de Policía de San José (SJPD), firma esta petición que exige mayor transparencia en torno a la tecnología, sus afirmaciones y las intenciones del departamento.
Ethan Gregory Dodge, columnista de San José Spotlight, es el fundador de la Coalición Ciudadana por la Privacidad del Condado de Santa Clara . También es el creador de Surveillance Today , un boletín informativo semanal y un podcast que analiza la actualidad en materia de vigilancia. Sus columnas se publican el segundo miércoles de cada mes. Puede contactar con Ethan en [email protected] o seguirlo en Twitter en @egd_io.
Deje un comentario
Debes iniciar sesión para publicar un comentario.