Legislador de Silicon Valley apunta a la desinformación política sobre IA

Antes de que se caliente la temporada electoral, un legislador estatal quiere eliminar las amenazas potenciales de la inteligencia artificial que difunde información errónea en la publicidad política.

La asambleísta Gail Pellerin, que representa al Distrito 28, planea presentar un proyecto de ley en las próximas semanas para prohibir los materiales publicitarios políticos alterados engañosamente mediante inteligencia artificial. El Distrito 28 incluye Santa Cruz, Los Gatos y partes de San José, que ha sido reconocido como un centro nacional para la industria de la IA.

El proyecto de ley apunta a tácticas de publicidad falsa, como los deepfakes (una imagen o grabación manipulada para tergiversar a alguien que hace o dice algo que en realidad no se hizo o dijo), así como llamadas automáticas alteradas que difunden información e imágenes falsas en correos políticos.

Pellerin, quien se desempeñó como directora electoral en el condado de Santa Cruz durante casi tres décadas, dijo que espera que el proyecto de ley proteja a los votantes de California de la desinformación política en las próximas elecciones de 2024.

"Estamos en un entorno desafiante y queremos asegurarnos de que las personas obtengan información correcta de fuentes confiables, y no imágenes, audio o videos que difundan mentiras y engaños", dijo a San José Spotlight.

El proyecto de ley surge tras un impulso de los legisladores locales para regular el uso de la IA en relación con la difusión de información manipulada.

Pellerin está trabajando en colaboración con la Iniciativa de California para la Tecnología y la Democracia, o CITED, una subsidiaria de la organización política sin fines de lucro California Common Cause.

Jonathan Mehta Stein, presidente de la junta directiva de CITED y director ejecutivo de California Common Cause, dijo que, en comparación con otras industrias, la tecnología no está tan regulada, lo que corre el riesgo de difundir información falsa. El año pasado, San José publicó su primer conjunto de directrices para el uso de la IA en el lugar de trabajo.

“Si estás tratando de engañar a los votantes o estás tratando de socavar la fe en las elecciones, hoy tienes herramientas poderosas, baratas y de fácil acceso que nunca antes habías tenido”, dijo a San José Spotlight. “Y en este momento, no hay respuesta gubernamental y el público no está en absoluto preparado. Alguien tiene que actuar para proteger a los votantes y proteger la democracia”.

California aprobó el Proyecto de Ley 730 de la Asamblea en 2019, que exige la divulgación si los materiales de la campaña contienen deepfakes. El asambleísta Marc Berman, que representa el Distrito 23, que incluye Half Moon Bay, Campbell, Mountain View y Palo Alto, fue el autor del proyecto de ley.

Berman también fue el autor del Proyecto de Ley 873 de la Asamblea, vigente a partir del 1 de enero, que integra la alfabetización mediática en el sistema escolar estatal para evitar la desinformación.

"Los esfuerzos para limitar la marea de desinformación son esenciales para la salud y la seguridad de nuestra sociedad cívica", dijo Berman a San José Spotlight. "Los votantes merecen saber qué es real y qué ha sido creado o alterado por la tecnología para intentar engañarlos y hacerles creer algo que nunca sucedió".

Pellerin dijo que los mensajes manipulados podrían reducir la cantidad de votantes participantes. Dijo que, por ejemplo, si los votantes reciben una llamada automática que les informa que su lugar de votación ha cambiado y llegan al lugar equivocado, es posible que simplemente se rindan.

“Imagínese que va al lugar equivocado y luego descubre que el lugar correcto está a kilómetros de distancia y simplemente levanta las manos y dice: 'Olvídalo'. Simplemente voy a volver a trabajar'”, dijo.

Mehta Stein dijo que el proyecto de ley de Pellerin abordará un problema que los votantes quieren abordar. De los californianos encuestados en una encuesta realizada por el Instituto de Estudios Gubernamentales de UC Berkeley, El 84% dijo estar preocupado. sobre los riesgos que representan los deepfakes, la desinformación y la inteligencia artificial para las elecciones de este año.

“Lo único que no podemos hacer es no hacer nada, porque quién sabe en qué estado estarán nuestras elecciones al otro lado de noviembre de 2024”, dijo Mehta Stein.

Póngase en contacto con Annalise Freimarck en [email protected] o seguir @analise_ellen en X, anteriormente conocido como Twitter.