Vào những giờ đầu buổi sáng, nhiệt độ gần như đóng băng khi cảnh sát Chicago nhận được cảnh báo từ giải pháp công nghệ phát hiện tiếng súng (GDT) của họ, ShotSpotter.
Rõ ràng là các phát súng đã được bắn trong khu phố Little Village của thành phố, một khu vực chủ yếu là dân cư Latinh. Các nhân viên vội vã đến hiện trường để tìm Ruben Roman 21 tuổi và Adam Toledo 13 tuổi trong một con hẻm. Họ cố gắng bắt được Roman, nhưng Toledo bỏ chạy.
Một sĩ quan đuổi kịp Toledo và ra lệnh cho anh ta dừng lại. Anh ta tuân theo. Viên cảnh sát yêu cầu Toledo đưa tay lên. Một lần nữa, anh ta làm theo, đồng thời thả một khẩu súng xuống. Viên cảnh sát đã bắn Toledo một cách chí mạng chưa đầy một giây sau khi anh ta giơ tay lên.
Câu chuyện và đoạn phim ghi lại cái chết của cậu bé đã gây phẫn nộ trong dư luận cả nước. Nó cũng làm dấy lên cuộc tranh luận về quyền riêng tư, hiệu quả và những lo ngại về mặt đạo đức của công nghệ nhận dạng khuôn mặt (GDT), một công nghệ mới được đưa vào sử dụng tại San Jose gần đây.
Sở cảnh sát San Jose hiện đang thử nghiệm công nghệ phát hiện tiếng súng ở hai khu phố của San Jose: Clemence/Owsley, ngay phía nam khu Little Saigon ở phía Đông San Jose, và Cadillac/Winchester ở phía Tây San Jose. Các hệ thống này, được nhà sản xuất V5 Systems đặt tên là OnSound , được gắn trên hầu hết các cột đèn đường. Công ty có trụ sở tại Fremont này tuyên bố sử dụng trí tuệ nhân tạo “để phát hiện nhiều loại tiếng súng khác nhau”, hứa hẹn “độ chính xác lên đến 90%” mà không cung cấp bất kỳ dữ liệu nào được sử dụng để đạt được con số đó.
Công nghệ này cũng được hỗ trợ bởi thiết bị đọc biển số tự động OnSight của V5 Systems , giúp ghi lại hiệu quả mọi chiếc xe ra vào các khu vực đó.
Quyền riêng tư
Thật không may, "trí tuệ nhân tạo" không phải là một thuật ngữ được quy định. Thường được sử dụng như một từ ngữ tiếp thị, nó có thể được dịch thành những từ ngữ tương tự như "cơn ác mộng về quyền riêng tư" hoặc "công nghệ thiếu trung thực". ShotSpotter, hệ thống nhận dạng giọng nói (GDT) được sử dụng ở Chicago, cũng quảng cáo việc sử dụng AI, nhưng Dana Delger của Tổ chức Innocence Project đã phát hiện ra điều ngược lại trong trường hợp của thân chủ Silvon Simmons, người bị kết án oan về tội tàng trữ vũ khí trái phép dựa trên các bản ghi của ShotSpotter. "Xét cho cùng, đây về cơ bản là một cỗ máy có thể cho bạn biết có một âm thanh lớn và sau đó con người phải cho bạn biết liệu đó có phải là tiếng súng hay không," Delger nói.
OnSound dường như hoạt động tương tự. Tất cả âm thanh đều được truyền tải đến cơ sở hạ tầng đám mây của V5 Systems và các nhà phân tích của họ “xác minh, báo cáo và phản hồi các cảnh báo phân tích tiếng súng” trước khi chuyển tiếp chúng cho cảnh sát. Điều này đặt ra câu hỏi, các nhà phân tích của họ đang nghe bao nhiêu phần trăm âm thanh? Họ có quyền truy cập vào bao nhiêu? Cả hai câu hỏi này đều không được trả lời trong chính sách bảo mật của V5 Systems.
ShotSpotter, giải pháp phát hiện tiếng súng được sử dụng rộng rãi nhất trong cả nước, đã phải đối mặt với những câu hỏi tương tự sau nhiều cuộc kiểm toán của bên thứ ba. Có lẽ cuộc kiểm toán đáng chú ý nhất được thực hiện bởi Dự án Cảnh sát thuộc Trường Luật Đại học New York vào năm 2019. Báo cáo đã đưa ra một số khuyến nghị bảo vệ quyền riêng tư, trong đó có việc “cải thiện các biện pháp kiểm soát nội bộ và giám sát liên quan đến quyền truy cập âm thanh”, điều mà ShotSpotter tuyên bố đã thực hiện.
Báo cáo cũng kết luận "rằng nguy cơ giám sát bằng giọng nói là cực kỳ thấp trong thực tế", dập tắt lo ngại rằng công nghệ ShotSpotter có thể được sử dụng để nghe trộm các cuộc trò chuyện.
Nếu V5 Systems đã tiến hành một cuộc kiểm toán tương tự, tôi không thể tìm thấy kết quả, và họ cũng không trả lời các câu hỏi của tôi nhằm làm rõ những lo ngại về quyền riêng tư này. SJPD tuyên bố rằng chỉ họ mới có quyền truy cập vào video được hệ thống ghi lại, nhưng tuyên bố đó lại mâu thuẫn với các tài liệu công khai của V5 Systems.
Hiệu quả
Tuy nhiên, quyền riêng tư chỉ là một mặt của vấn đề. Hiệu quả của các hệ thống này có thể là yếu tố quyết định giữa sự sống và cái chết. Dave Maass , giám đốc điều tra của Tổ chức Biên giới Điện tử (Electronic Frontier Foundation ), đã nói với tờ Las Vegas Review Journal cách đây chỉ hai tháng rằng khi nhận được cảnh báo từ hệ thống phát hiện tiếng súng như ShotSpotter, cảnh sát “có thể cho rằng đây là một tình huống bạo lực với kẻ xả súng đang hoạt động, vì vậy họ sẽ chuẩn bị sẵn sàng để đối phó với tình huống xả súng… chúng ta có thể đang đặt người dân vào tình huống sinh tử.”
Các tuyên bố về độ chính xác và hiệu quả của ShotSpotter đã được đưa ra xét xử tại một tòa án ở San Francisco vào năm 2017. Khi được hỏi về lời đảm bảo của công ty rằng họ có thể xác định chính xác tiếng súng trong 80% trường hợp, một kỹ sư của ShotSpotter đã tuyên bố rằng "lời đảm bảo đó do bộ phận bán hàng và tiếp thị của chúng tôi đưa ra, chứ không phải do các kỹ sư của chúng tôi."
Hơn nữa, nghiên cứu được Trung tâm Tư pháp MacArthur thuộc Đại học Northwestern công bố đầu năm nay cho thấy chỉ có 10% cảnh báo của ShotSpotter tại Chicago từ tháng 7 năm 2019 đến tháng 4 năm 2021 dẫn đến việc cảnh sát lập biên bản vụ việc liên quan đến súng. Tuy nhiên, ShotSpotter tuyên bố có “tỷ lệ chính xác tổng thể là 97%”. Như đã nêu trước đó, OnSound của V5 Systems tuyên bố tỷ lệ chính xác không rõ ràng là “lên đến 90%”.
Nếu nghiên cứu và phân tích cho thấy rằng một sản phẩm đã có tuổi đời hàng thập kỷ và được triển khai rộng rãi vẫn không đáp ứng được yêu cầu về độ chính xác của nó, thì tại sao SJPD lại thử nghiệm một hệ thống dường như không bị giám sát kỹ lưỡng? Đối với một sở cảnh sát đã giết 20 người trong XNUMX năm qua, gần đây nhất là Demetrius Stanely, mới tuần trước, tôi hy vọng họ sẽ quan tâm hơn đến việc xác minh độ chính xác của công nghệ của họ.
Bảo mật và hiệu quả sang một bên: công nghệ này có thuộc về thành phố của chúng tôi không?
Trong trường hợp của Adam Toledo, ShotSpotter đã đúng. Người đàn ông khác bị bắt tại hiện trường, Ruben Roman, đã nổ súng. Nhưng công nghệ này vẫn dẫn đến tình huống một học sinh lớp 100 Latinh vô tội bị giết sau khi tuân thủ cảnh sát. Ngay cả khi công nghệ luôn chính xác XNUMX% và sự riêng tư được bảo vệ hoàn hảo, nó vẫn sẽ dẫn đến những tình huống chết người. Nó không có chỗ trong thành phố của chúng tôi.
Để bày tỏ ý kiến của bạn về chương trình thí điểm các công nghệ này của SJPD, vui lòng ký vào bản kiến nghị này để yêu cầu sự minh bạch hơn về công nghệ, những tuyên bố của nó và ý định của sở cảnh sát.
Ethan Gregory Dodge, cây bút chuyên mục của San José Spotlight, là người sáng lập Liên minh Bảo vệ Quyền riêng tư của Công dân Quận Santa Clara . Ông cũng là người tạo ra Surveillance Today , một bản tin và podcast hàng tuần thảo luận về các sự kiện hiện tại trong lĩnh vực giám sát. Các bài viết của ông được đăng tải vào thứ Tư tuần thứ hai của mỗi tháng. Liên hệ với Ethan qua địa chỉ [email protected] hoặc theo dõi @egd_io trên Twitter.
Bình luận
Bạn phải đăng nhập để bình luận.