CẬP NHẬT: Nhân viên Quận Santa Clara muốn có rào chắn an toàn cho AI

Các quan chức quận Santa Clara muốn đón đầu sự phát triển của trí tuệ nhân tạo và đang tìm hiểu cách thức thiết lập các biện pháp bảo vệ khi công nghệ này làm dấy lên nỗi lo ngại về việc mất việc làm trong giới công chức.

Hôm thứ Ba, Hội đồng Giám sát đã nhất trí bỏ phiếu, với sự vắng mặt của Giám sát viên Susan Ellenberg, để tiếp tục tiến hành... Nghiên cứu toàn diện về cách sử dụng trí tuệ nhân tạo. trải rộng khắp các bộ phận khác nhau của nó — bao gồm cả hệ thống bệnh viện công, vốn là hệ thống lớn thứ hai ở California.

Các nhà lãnh đạo quận sẽ sử dụng nghiên cứu đó để thiết lập các hướng dẫn về việc sử dụng công nghệ này, bao gồm việc công khai khi nào trí tuệ nhân tạo (AI) được sử dụng trong hoạt động của quận, các điều khoản cấm rõ ràng việc sử dụng AI cho các quyết định về ngân sách hoặc nhân sự và các biện pháp để đảm bảo AI đang hỗ trợ nhân viên quận chứ không phải thay thế họ. Báo cáo sẽ được trình lên hội đồng cùng với một chính sách chính thức để phê duyệt vào một ngày sau đó.

Giám sát viên Quận 5 Margaret Abe-Koga, người đang dẫn đầu nỗ lực này cùng với Chủ tịch Hội đồng Otto Lee, cho biết mối lo ngại chính của bà là trí tuệ nhân tạo sẽ thay thế các công chức con người.

“Nó đã được sử dụng ở một số bộ phận trong tổ chức của chúng tôi, vì vậy điều chúng ta cần là một chính sách rõ ràng, chu đáo, lấy con người làm trung tâm và dựa trên các giá trị để hướng dẫn việc sử dụng đó,” Abe-Koga nói trước cuộc bỏ phiếu.

Bà ấy nói thêm rằng quận đang trải qua một chu kỳ ngân sách vô cùng eo hẹp, trong đó mọi phòng ban đều được yêu cầu làm nhiều việc hơn với nguồn lực ít hơn. Bà cho biết trí tuệ nhân tạo (AI) - khi được sử dụng một cách khôn ngoan - có thể giúp giảm bớt sự tồn đọng và các nhiệm vụ hành chính lặp đi lặp lại, cho phép nhân viên tập trung vào những phần công việc đòi hỏi sự phán đoán của con người.

"Trí tuệ nhân tạo nên hỗ trợ lực lượng lao động của chúng ta, chứ không phải thay thế họ," bà nói.

Abe-Koga cũng chỉ đạo nhân viên quận mở rộng phạm vi báo cáo vượt ra ngoài trí tuệ nhân tạo tạo sinh — được sử dụng để tạo ra nội dung như hình ảnh, văn bản và video — sang trí tuệ nhân tạo nói chung. Sau khi nhận được phản hồi từ các nhóm lao động, Abe-Koga đồng ý rằng một số loại trí tuệ nhân tạo vẫn có tác động xã hội ngay cả khi nó không phải là trí tuệ nhân tạo tạo sinh.

Một số lãnh đạo công đoàn đã phát biểu tại cuộc họp để chia sẻ những mối lo ngại của người lao động trong quận.

“Chúng ta đã thấy điều gì xảy ra khi công nghệ mới được áp dụng mà không có sự quản lý rõ ràng và kế hoạch nhân lực phù hợp,” Carlos Fuentes, kỹ sư mạng của quận và đại diện công đoàn thuộc SEIU 521, cho biết. “Với việc áp dụng điện toán đám mây – ranh giới giữa các lĩnh vực trở nên mờ nhạt, trách nhiệm bị chồng chéo và cơ hội của người lao động trong quận bị mất đi. Chúng ta không thể để điều đó lặp lại với trí tuệ nhân tạo.”

Tuy nhiên, mối lo ngại chính là khả năng ứng dụng trí tuệ nhân tạo trong các quyết định về nhân sự.

“Giờ đây mọi thứ đều có thể biết được,” Zeb Feldman, một lãnh đạo công đoàn cho Hiệp hội quản lý nhân viên quậnÔng nói với tờ San José Spotlight: “Chúng tôi rất vui mừng về việc đề xuất thảo luận về các trường hợp sử dụng bị cấm, vì chúng tôi không muốn trí tuệ nhân tạo được sử dụng để đưa ra quyết định sa thải hoặc kỷ luật.”

Bà Abe-Koga cho biết bà đang yêu cầu nhân viên nghiên cứu nhiều công cụ trí tuệ nhân tạo khác nhau.

“Ví dụ, có những công cụ để tạo video đào tạo nhân viên,” bà nói. “Có một nền tảng chuyển giọng nói thành văn bản có thể tổng hợp các ghi chú của bác sĩ. Chúng tôi cũng đang thực hiện chương trình Microsoft CoPilot tại một số phòng ban để xem liệu nó có hữu ích cho nhân viên ở đó hay không. Mục tiêu là mở rộng nó ra tất cả các phòng ban trong quận, dựa trên kinh nghiệm của chúng tôi với các phòng ban được chọn.”

Trong khi quận đang xem xét việc điều chỉnh AI, một số thành phố địa phương đã bắt đầu triển khai các biện pháp này.

Thành phố San Jose đang tích hợp trí tuệ nhân tạo (AI) vào chính quyền địa phương với tốc độ tối đa, sau khi thành lập Liên minh GovAI quốc gia để thiết lập các tiêu chuẩn cho việc này. sử dụng AI có trách nhiệm trong chính phủVới sự tham gia của hàng trăm thành phố và công chức.

Văn phòng thị trưởng Matt Mahan sử dụng ChatGPT để hỗ trợ viết bài phát biểu và soạn thảo các luận điểm. Thành phố hiện đang sử dụng phần mềm hỗ trợ bởi trí tuệ nhân tạo để Tối ưu hóa giao thông công cộng, phiên dịch các cuộc họp công cộng, xem xét các tài liệu chính thức. và lập danh mục các vấn đề về xuống cấp và an toàn giao thông đường phố như ổ gà, graffiti, đèn đường hỏng và đổ rác trái phép.

Maria Noel Fernandez, giám đốc điều hành của nhóm vận động địa phương Working Partnerships USA, cho biết các chính quyền địa phương như Quận Santa Clara có thể là hình mẫu cho toàn tiểu bang và quốc gia về việc sử dụng AI một cách có trách nhiệm.

“Các công đoàn, các nhóm cộng đồng và các đồng minh được bầu của chúng ta ở Thung lũng Silicon đang đấu tranh cho một tầm nhìn nơi trí tuệ nhân tạo trao quyền cho người lao động và bảo vệ các giá trị của chúng ta,” bà nói với tờ San José Spotlight.

Ông Feldman cho rằng việc bảo vệ người lao động trong quận và công chúng khỏi việc sử dụng trí tuệ nhân tạo một cách thiếu trách nhiệm là vô cùng quan trọng. Công đoàn của ông đại diện cho hơn 3,000 công nhân tại Quận Santa Clara.

“Chúng ta chỉ cần hiểu rõ các quy tắc giao thông để trí tuệ nhân tạo có thể hữu ích — đặc biệt là trong bối cảnh hiện nay.” khủng hoảng ngân sách — chứ không phải là có hại,” Feldman nói.

Ông James Williams, Giám đốc điều hành quận, cho biết quận đã có các quy trình kiểm duyệt để đảm bảo công nghệ trí tuệ nhân tạo được sử dụng một cách minh bạch, an toàn và bảo mật.

“Khi các công nghệ này phát triển, Ban Quản lý Quận tiếp tục xem xét và đề xuất các cập nhật chính sách cho Hội đồng Giám sát để đảm bảo việc sử dụng Trí tuệ Nhân tạo tạo sinh vẫn phù hợp với các nguyên tắc của Quận,” ông Williams nói với San José Spotlight. “Là một đơn vị dẫn đầu quốc gia về công nghệ và đổi mới, Quận có vị thế tốt để thiết lập các tiêu chuẩn rõ ràng nhằm bảo vệ cư dân, nhân viên và cộng đồng của chúng ta, đồng thời tận dụng một cách có trách nhiệm Trí tuệ Nhân tạo tạo sinh để nâng cao chất lượng cung cấp dịch vụ thiết yếu.”

Giám đốc điều hành Hội đồng Lao động South Bay, bà Jean Cohen, cho biết quận nên cùng xây dựng và thực hiện các chính sách này với người lao động và giải quyết những lo ngại rằng trí tuệ nhân tạo có thể được sử dụng để giám sát tại nơi làm việc.

“Tôi không chắc điều đó đã được thực hiện một cách bài bản và có tổ chức hơn,” Cohen nói với San José Spotlight. “Cần phải có sự giám sát của con người đối với các công cụ AI và sự tham gia của con người vào quy trình.”

Liên hệ Brandon Phở tại [email được bảo vệ] hoặc @brandonphooo trên X.

Câu chuyện được cập nhật vào ngày 24 tháng 12 lúc 08:21 chiều Câu chuyện gốc được xuất bản vào ngày 8 tháng 30 lúc XNUMX:XNUMX sáng