Nhà lập pháp Thung lũng Silicon nhắm vào thông tin sai lệch chính trị về AI

Trước khi mùa bầu cử nóng lên, một nhà lập pháp của bang muốn loại bỏ các mối đe dọa tiềm ẩn từ việc trí tuệ nhân tạo phát tán thông tin sai lệch trong quảng cáo chính trị.

Dân biểu Gail Pellerin, người đại diện cho Quận 28, có kế hoạch đưa ra một dự luật trong những tuần tới để cấm các tài liệu quảng cáo chính trị bị thay đổi một cách lừa đảo thông qua AI. Quận 28 bao gồm Santa Cruz, Los Gatos và một phần của San Jose, nơi đã được công nhận là trung tâm toàn quốc cho ngành công nghiệp AI.

Dự luật nhắm vào các chiến thuật quảng cáo sai sự thật chẳng hạn như deepfake — một hình ảnh hoặc bản ghi bị thao túng để xuyên tạc việc ai đó đang làm hoặc nói điều gì đó không thực sự được thực hiện hoặc nói — cũng như các cuộc gọi tự động đã được thay đổi để truyền bá thông tin sai lệch và hình ảnh sai lệch trong các thư gửi chính trị.

Pellerin, người từng là quan chức bầu cử chính ở Quận Santa Cruz trong gần ba thập kỷ, cho biết bà hy vọng dự luật sẽ bảo vệ cử tri California khỏi những thông tin sai lệch về chính trị trong cuộc bầu cử năm 2024 sắp tới.

Cô nói với San José Spotlight: “Chúng tôi đang ở trong một môi trường đầy thử thách và chúng tôi muốn đảm bảo rằng mọi người đang nhận được thông tin chính xác từ các nguồn đáng tin cậy và không nhận được những hình ảnh, âm thanh hoặc video lan truyền những lời dối trá và lừa dối”.

Dự luật này tuân theo sự thúc đẩy của các nhà lập pháp địa phương nhằm quản lý việc sử dụng AI liên quan đến việc truyền bá thông tin giả mạo.

Pellerin đang cộng tác với Sáng kiến ​​Công nghệ và Dân chủ California, hay CITED, một công ty con của tổ chức phi lợi nhuận chính trị California Common Cause.

Jonathan Mehta Stein, chủ tịch hội đồng quản trị CITED và giám đốc điều hành California Common Cause, cho biết so với các ngành khác, công nghệ không được quản lý chặt chẽ, có nguy cơ lan truyền thông tin sai lệch. Năm ngoái, San Jose đã xuất bản bộ hướng dẫn đầu tiên về sử dụng AI ở nơi làm việc.

Ông nói với San José Spotlight: “Nếu bạn đang cố gắng đánh lừa cử tri hoặc đang cố gắng làm suy yếu niềm tin vào các cuộc bầu cử, thì ngày nay bạn có những công cụ mạnh mẽ, rẻ tiền, dễ tiếp cận mà bạn chưa từng có trước đây”. “Và hiện tại, không có phản hồi nào của chính phủ và công chúng hoàn toàn chưa sẵn sàng. Ai đó phải hành động để bảo vệ cử tri và bảo vệ nền dân chủ.”

California đã thông qua Dự luật Hạ viện 730 vào năm 2019, yêu cầu tiết lộ nếu tài liệu chiến dịch có chứa nội dung giả mạo. Nghị sĩ Marc Berman, người đại diện cho Quận 23 bao gồm Half Moon Bay, Campbell, Mountain View và Palo Alto, là tác giả của dự luật.

Berman cũng là tác giả của Dự luật Quốc hội 873, có hiệu lực từ ngày 1 tháng XNUMX, rằng Tích hợp kiến ​​thức truyền thông vào hệ thống trường học của tiểu bang để ngăn chặn thông tin sai lệch.

Berman nói với San José Spotlight: “Những nỗ lực nhằm hạn chế làn sóng thông tin sai lệch là điều cần thiết cho sức khỏe và sự an toàn của xã hội dân sự của chúng ta. “Cử tri xứng đáng được biết điều gì là thật và điều gì đã được công nghệ tạo ra hoặc thay đổi để cố lừa họ tin vào điều chưa từng xảy ra.”

Pellerin cho biết các tin nhắn bị thao túng có thể làm giảm lượng cử tri tham gia. Cô ấy cho biết, chẳng hạn, nếu cử tri nhận được một cuộc gọi tự động cho biết địa điểm bỏ phiếu của họ đã thay đổi và họ đến sai địa điểm, họ có thể bỏ cuộc.

“Hãy tưởng tượng bạn đến sai địa điểm và sau đó tìm ra địa điểm phù hợp cách đó hàng dặm và bạn chỉ cần giơ tay lên và nói: ‘Quên nó đi. Tôi vừa quay lại làm việc'”, cô nói.

Mehta Stein cho biết dự luật của Pellerin sẽ giải quyết một vấn đề mà cử tri muốn giải quyết. Trong số người dân California được khảo sát trong một cuộc thăm dò do Viện Nghiên cứu Chính phủ tại UC Berkeley thực hiện, 84% cho biết họ lo ngại về những rủi ro mà deepfake, thông tin sai lệch và AI gây ra cho cuộc bầu cử năm nay.

Mehta Stein nói: “Điều duy nhất chúng tôi không thể làm là không làm gì vì ai biết được cuộc bầu cử của chúng tôi sẽ diễn ra ở trạng thái nào ở phía bên kia tháng 2024 năm XNUMX”.

Liên hệ với Annalise Freimarck tại [email được bảo vệ] hoặc theo @annalize_ellen trên X, trước đây gọi là Twitter.