Người dân vùng Vịnh đã gửi email cho các quan chức của họ trong vài năm qua có thể ngạc nhiên khi biết rằng việc trao đổi thư từ của họ có thể đào tạo AI của một công ty để sử dụng trong tương lai.
Công ty GovernmentGPT có trụ sở tại Mountain View đã nộp 90 yêu cầu theo Đạo luật Hồ sơ Công cộng California với nhiều thành phố trên khắp Vùng Vịnh về các email từ cư dân gửi đến thị trưởng, thành viên hội đồng và thư ký thành phố từ năm 2020 đến năm 2023. Mục tiêu là tạo ra một công cụ trí tuệ nhân tạo có thể dễ dàng tóm tắt suy nghĩ của cư dân dựa trên các bình luận của công chúng. Các chuyên gia AI đã nêu lên mối quan ngại về quyền riêng tư, sự đồng ý và đạo đức khi đào tạo AI bằng dữ liệu này.
San José Spotlight đã tìm thấy các yêu cầu được gửi đến San Jose, Santa Clara, Mountain View và Milpitas vào cuối năm 2023 và đầu năm 2024. Ba thành phố đã nhận được yêu cầu ngắn yêu cầu cung cấp tài liệu, trong khi Milpitas nhận được yêu cầu dài 10 trang.
Rich Tran, cựu thị trưởng Milpitas và là thành viên của nhóm GovernmentGPT, đang hỗ trợ dẫn đầu một trong những dự án của công ty, CivicVoice, nơi ghi lại và tóm tắt các ý kiến của công chúng tại các cuộc họp.
Tran không trả lời yêu cầu bình luận.
Chính phủGPT Tổng giám đốc điều hành và nhà sáng lập Raj Abhyanker, một luật sư về bằng sáng chế, nói với San José Spotlight rằng công ty chuyên về AI dân sự và sẽ cung cấp dịch vụ giúp công chúng dễ dàng tham gia hơn.
Ông cho biết họ muốn ghi lại cảm xúc của người dân trong đại dịch COVID-19 và tìm hiểu những vấn đề mà mọi người quan tâm nhất, đồng thời nói thêm rằng họ không có kế hoạch tìm kiếm hồ sơ ngoài khung thời gian xảy ra đại dịch.
Abhyanker cho biết công ty có một số công cụ AI khác, chẳng hạn như CivicVoice. Tất cả các công cụ này đều nhằm mục đích giúp công việc của chính phủ hiệu quả hơn.
Abhyanker nói với San José Spotlight rằng: “Các thành phố hoạt động rất đáng ghét, quan liêu và kém hiệu quả với ngân sách phình to, và họ cần cải cách và đại tu lớn về cách thức hoạt động của họ”. “Họ cần ít lớp hơn giữa công dân và quá trình ra quyết định”.
Chuông báo động đang reo
Trong yêu cầu gửi tới Milpitas, Abhyanker viết rằng mục tiêu là tạo ra "giao diện AI giống ChatGPT" để xác định những vấn đề cấp bách nhất đối với cư dân và hợp lý hóa các hoạt động của thành phố.
Ahmed Banafa, một giáo sư kỹ thuật tại Đại học San Jose State và là chuyên gia về công nghệ AI, cho biết ông sống ở Milpitas và rất sốc khi bất kỳ thông tin liên lạc nào của ông với thành phố này đều có thể được sử dụng để đào tạo một mô hình AI. Banafa muốn biết liệu email của ông có bị sử dụng hay không, đặc biệt là nếu công ty có kế hoạch kiếm tiền từ AI.
Banafa nói với San José Spotlight: “Đó là quyền tự do thông tin, chứ không phải quyền tự do bán dữ liệu của tôi, không phải quyền kiếm tiền từ dữ liệu của tôi, điều đó chưa bao giờ xảy ra”.
Abhyanker đã viết trong hồ sơ yêu cầu, công ty có kế hoạch gửi dữ liệu này đến mọi thành phố trong tiểu bang. Nhưng ông nói với San José Spotlight rằng công ty không có kế hoạch bán dữ liệu.
Banafa cho biết thêm rằng việc chỉ sử dụng email sẽ hạn chế lượng thông tin chi tiết mà mô hình AI có thể thu thập được vì nó bỏ qua các bình luận của công chúng tại các cuộc họp, cuộc gọi điện thoại và trực tuyến.
“Tôi ngạc nhiên khi các thành phố đang ngồi trên này và không làm ầm ĩ về điều này. Chúng tôi có luật sư tại các thành phố, chúng tôi có cố vấn, họ có thể chất vấn điều đó,” Banafa nói. “Tôi là công dân Milpitas, tôi đã ở đây 30 năm, và tôi không muốn điều này xảy ra với email hoặc thông tin liên lạc của tôi với thành phố.”
Nghị viên Hội đồng thành phố Santa Clara Kevin Park, người đã làm việc với tư cách là một kỹ sư tại nhiều công ty trí tuệ nhân tạo trong thập kỷ qua, cho biết đề xuất này có thể nguy hiểm và có khả năng không chính xác, vì dễ làm hỏng dữ liệu đào tạo. Cũng sẽ mất rất nhiều công sức để làm sạch dữ liệu do số lượng lớn các chủ đề mà chính phủ phải giải quyết.
Park cũng cho biết sự thiếu hụt Quy định AI có nghĩa là hầu như không có hậu quả nếu sản phẩm gây hại.
“Nếu phạm phải một lỗi nghiêm trọng còn hơn cả một cái tát tay, thì mọi người sẽ cẩn thận, nhưng ngay bây giờ, điều gì sẽ xảy ra nếu AI không chính xác?” Park nói với San José Spotlight. “Câu trả lời ngắn gọn là đây là một lãnh thổ mới, chúng tôi thực sự không có quy định nào về điều đó.”
Không chỉ thiếu quy định, mà còn có vấn đề về đạo đức khi đào tạo AI về email của cư dân. Brian Green, giám đốc đạo đức công nghệ tại Trung tâm Đạo đức Ứng dụng Markkula thuộc Đại học Santa Clara, cho biết công ty đang lợi dụng những cư dân đã viết email và các nhân viên thành phố đã phải tự tay biên tập thông tin cá nhân.
Ông nói thêm rằng các loại AI này cần rất nhiều dữ liệu để đào tạo, do đó, có khả năng công ty đang có ý định bán dữ liệu thay vì tự xây dựng công cụ AI.
Green cho biết tình huống này có thể nằm ngoài phạm vi của Đạo luật Hồ sơ Công cộng California và Đạo luật Tự do Thông tin liên bang, vì những người soạn thảo các luật đó không nghĩ đến việc sử dụng hồ sơ công cộng theo cách này.
“Đó không phải là mục đích ban đầu của những email đó,” Green nói với San José Spotlight. “Những email này có thể truy cập hợp pháp nhưng không có nghĩa là họ nên có quyền truy cập vào chúng.”
Liên hệ B. Sakura Cannestra tại [email được bảo vệ] or @SakuCannestra trên X
Chính quyền Milpitas GPT PRA chưa chỉnh sửa
Bình luận
bạn phải đăng nhập để viết bình luận.