Los residentes del Área de la Bahía que enviaron correos electrónicos a sus funcionarios en los últimos años pueden sorprenderse al saber que su correspondencia podría entrenar la inteligencia artificial de una empresa para su uso futuro.
La empresa GovernmentGPT, con sede en Mountain View, presentó 90 solicitudes de la Ley de Registros Públicos de California a varias ciudades del Área de la Bahía para obtener correos electrónicos de residentes dirigidos a alcaldes, concejales y secretarios municipales entre 2020 y 2023. El objetivo es crear una herramienta de inteligencia artificial. Que puede resumir fácilmente las opiniones de un residente basándose en los comentarios del público. Los expertos en IA han expresado su preocupación por la privacidad, el consentimiento y la ética al entrenar una IA con estos datos.
San José Spotlight encontró solicitudes enviadas a San José, Santa Clara, Mountain View y Milpitas a fines de 2023 y principios de 2024. Tres ciudades recibieron una solicitud breve solicitando documentos, mientras que Milpitas recibió una solicitud de 10 páginas.
Rich Tran, ex alcalde de Milpitas y parte del equipo de GovernmentGPT, está ayudando a liderar uno de los proyectos de la empresa, CivicVoice, que documenta y resume los comentarios públicos en las reuniones.
Tran no respondió a las solicitudes de comentarios.
GobiernoGPT El director ejecutivo y fundador Raj Abhyanker, un abogado de patentes, dijo a San José Spotlight que la compañía se especializa en inteligencia artificial cívica y que brindaría un servicio facilitando la participación pública.
Dijo que querían registrar los sentimientos de los residentes durante la pandemia de COVID-19 y conocer qué problemas estaban en la mente de las personas, y agregó que no planean buscar registros fuera del marco temporal de la pandemia.
Abhyanker afirmó que la compañía cuenta con varias otras herramientas de IA, como CivicVoice. Todas estas herramientas están diseñadas para optimizar la labor del gobierno.
“Las ciudades operan de forma muy detestable, burocrática e ineficiente, con presupuestos inflados, y necesitan una reforma y una reestructuración profunda de su funcionamiento”, declaró Abhyanker a San José Spotlight. “Necesitan menos intersecciones entre los ciudadanos y la toma de decisiones”.
Las alarmas están sonando
Abhyanker escribió en su solicitud a Milpitas que el objetivo es crear una “interfaz de inteligencia artificial similar a ChatGPT” para identificar los problemas más urgentes para los residentes y agilizar las operaciones municipales.
Ahmed Banafa, profesor de ingeniería de la Universidad Estatal de San José y experto en tecnologías de IA, dijo que vive en Milpitas y le sorprendió que alguna de sus comunicaciones con la ciudad pudiera haberse utilizado para entrenar un modelo de IA. Banafa quiere saber si sus correos electrónicos se están utilizando, especialmente si la empresa planea lucrarse con la IA.
“Se trata de libertad de información, no de libertad para vender mis datos, no de monetizar mis datos, ese nunca ha sido el caso”, dijo Banafa a San José Spotlight.
Abhyanker escribió En la solicitud de registros, la compañía planea enviarlos a todas las ciudades del estado. Sin embargo, declaró a San José Spotlight que no planea vender los datos.
Banafa agregó que usar solo correos electrónicos limita la cantidad de información que un modelo de IA puede obtener porque pasa por alto los comentarios públicos en reuniones, llamadas telefónicas y en línea.
“Me sorprende que las ciudades se queden con esto "Y no armar un escándalo al respecto. Tenemos abogados en las ciudades, tenemos asesores legales; ellos pueden cuestionarlo", dijo Banafa. "Soy ciudadano de Milpitas, llevo aquí 30 años, y no quiero que esto le pase a mis correos electrónicos ni a mis comunicaciones con la ciudad".
El concejal de Santa Clara, Kevin Park, quien ha trabajado como ingeniero en múltiples empresas de IA Durante la última década, se afirmó que la propuesta podría ser peligrosa y probablemente inexacta, ya que sería fácil contaminar los datos de entrenamiento. Además, depurar los datos requeriría un gran esfuerzo debido a la gran cantidad de temas que abordan los gobiernos.
Park también dijo que la falta de Regulación AI significa que hay poca o ninguna repercusión si el producto causa daño.
“Si cometer un error crítico es más que un simple tirón de manos, la gente tendrá cuidado, pero ahora mismo, ¿qué pasa si la IA se equivoca?”, declaró Park a San José Spotlight. “En resumen, este es un territorio nuevo; realmente no tenemos regulaciones al respecto”.
No solo faltan regulaciones, sino que también existen problemas éticos al entrenar una IA con los correos electrónicos de los residentes. Brian Green, director de ética tecnológica del Centro Markkula de Ética Aplicada de la Universidad de Santa Clara, afirmó que la empresa se está aprovechando de los residentes que escribieron los correos electrónicos y de los empleados municipales que tuvieron que redactar manualmente la información privada.
Agregó que estos tipos de IA necesitan muchos datos para entrenarse, por lo que es posible que la empresa tenga la intención de vender los datos en lugar de construir la herramienta de IA en sí.
Green dijo que esta situación probablemente esté fuera del alcance de la Ley de Registros Públicos de California y la Ley de Libertad de Información federal, ya que los autores de esas leyes no concibieron que se utilizaran registros públicos. De este modo.
"Esos correos no estaban destinados a eso en primer lugar", declaró Green a San José Spotlight. "Si bien son legalmente accesibles, eso no significa que deban tener acceso a ellos".
Póngase en contacto con B. Sakura Cannestra en [email protected] or @SakuCannestra en x
GPT PRA del gobierno de Milpitas sin editar
Deje un comentario
Debes estar conectado para publicar un comentario.