ACTUALIZACIÓN: Los trabajadores del condado de Santa Clara exigen medidas de protección para la IA.

Los funcionarios del condado de Santa Clara quieren adelantarse a la inteligencia artificial y están estudiando cómo implementar medidas de protección, ya que el creciente desarrollo de esta tecnología genera temores de desplazamiento entre los funcionarios públicos.

La Junta de Supervisores votó por unanimidad el martes, con la supervisora ​​Susan Ellenberg ausente, para seguir adelante con un Estudio exhaustivo sobre cómo se utiliza la IA en sus diversos departamentos, incluido el sistema de hospitales públicos, que es el segundo más grande de California.

Los líderes del condado utilizarán este estudio para establecer directrices sobre el uso de la tecnología, incluyendo la divulgación de cuándo se utiliza la IA en las operaciones del condado, prohibiciones claramente definidas sobre su uso para decisiones presupuestarias o de personal, y medidas para garantizar que la IA ayude a los empleados del condado, en lugar de reemplazarlos. El informe se presentará a la junta directiva junto con una política formal para su aprobación en una fecha posterior.

Margaret Abe-Koga, supervisora ​​del Distrito 5, quien encabeza esta iniciativa junto con el presidente de la junta, Otto Lee, dijo que su principal preocupación es que la inteligencia artificial reemplace a los funcionarios públicos humanos.

“Ya se está utilizando en algunas áreas de nuestra organización, así que lo que necesitamos es una política clara, reflexiva, centrada en las personas y basada en valores para guiar ese uso”, dijo Abe-Koga antes de la votación.

Añadió que el condado se encuentra en un ciclo presupuestario extremadamente ajustado, donde se exige a cada departamento que haga más con menos. Explicó que la IA, cuando se utiliza con criterio, puede ayudar a reducir la acumulación de trabajo y las tareas administrativas repetitivas, permitiendo así que los empleados se centren en las partes de su trabajo que requieren criterio humano.

“La IA debería mejorar nuestra fuerza laboral, no reemplazarla”, afirmó.

Abe-Koga también instruyó al personal del condado a ampliar el alcance del informe más allá de la IA generativa —que se utiliza para crear contenido como imágenes, texto y video— para abarcar la IA en general. Tras recibir comentarios de grupos laborales, Abe-Koga coincidió en que algunas formas de IA siguen teniendo repercusiones sociales, incluso si no son generativas.

Varios líderes sindicales intervinieron en la reunión para compartir las inquietudes de los trabajadores del condado.

“Ya hemos visto lo que sucede cuando se adopta nueva tecnología sin una gobernanza clara ni una planificación adecuada de la fuerza laboral”, declaró Carlos Fuentes, ingeniero de redes del condado y delegado sindical de SEIU 521. “Con la adopción de la nube, los ámbitos se confundieron, las responsabilidades se mezclaron y se perdieron oportunidades para los empleados del condado. No podemos permitirnos que eso se repita con la IA”.

Pero una de las principales preocupaciones es el posible uso de la IA en las decisiones de personal.

“Ahora todo es posible saberlo”, dijo Zeb Feldman, un líder sindical. Asociación de gestión de empleados del condado“Nos entusiasma la remisión que aborda los casos de uso prohibidos, ya que no queremos que la IA se utilice para tomar decisiones de despido o disciplina”, declaró a San José Spotlight.

Abe-Koga dijo que está encargando a su personal que investigue diversas herramientas de inteligencia artificial.

“Por ejemplo, existen herramientas para crear videos de capacitación para empleados”, explicó. “También hay una plataforma de conversión de voz a texto que sintetiza las notas de los médicos. Además, estamos implementando el programa Microsoft CoPilot en algunos departamentos para evaluar su utilidad para el personal. El objetivo es extenderlo a todos los departamentos del condado, basándonos en nuestra experiencia con los departamentos seleccionados”.

Mientras el condado estudia la regulación de la IA, algunas de sus ciudades locales ya han comenzado a tomar medidas.

San José está integrando la IA en el gobierno local a toda velocidad, habiendo lanzado la Coalición nacional GovAI para establecer estándares para Uso responsable de la IA en el gobierno.con cientos de ciudades y funcionarios públicos que se han sumado a la iniciativa.

Oficina del alcalde Matt Mahan utiliza ChatGPT para ayudar a redactar discursos y elaborar puntos clave. La ciudad ya está utilizando software impulsado por IA para optimizar el transporte público, traducir reuniones públicas, revisar documentos oficiales y catalogar el deterioro de las calles y los problemas de seguridad, como baches, grafitis, farolas rotas y vertidos ilegales.

Maria Noel Fernandez, directora ejecutiva del grupo de defensa local Working Partnerships USA, dijo que los gobiernos locales, como el del condado de Santa Clara, pueden ser modelos para el estado y la nación en lo que respecta al uso responsable de la IA.

“Los sindicatos, los grupos comunitarios y nuestros aliados electos aquí en Silicon Valley están luchando por una visión en la que la IA empodere a los trabajadores y proteja nuestros valores”, declaró a San José Spotlight.

Feldman afirmó que es fundamental proteger a los empleados del condado y al público del uso irresponsable de la IA. Su sindicato representa a poco más de 3,000 trabajadores en el condado de Santa Clara.

“Solo necesitamos entender las reglas del juego para que la IA pueda ser útil, especialmente en nuestra situación actual. crisis presupuestaria —en lugar de perjudiciales”, dijo Feldman.

El ejecutivo del condado, James Williams, dijo que el condado ya cuenta con procesos de verificación para garantizar que la tecnología de inteligencia artificial se utilice de manera transparente, segura y confiable.

“A medida que estas tecnologías evolucionan, la Administración del Condado continúa revisando y recomendando actualizaciones de políticas a la Junta de Supervisores para garantizar que el uso de la IA generativa se mantenga alineado con los principios del Condado”, declaró Williams a San José Spotlight. “Como líder nacional en tecnología e innovación, el Condado está bien posicionado para establecer estándares claros que protejan a nuestros residentes, empleados y comunidad, al tiempo que aprovecha de manera responsable la IA generativa para mejorar la prestación de servicios esenciales”.

Jean Cohen, directora ejecutiva del Consejo Laboral de South Bay, dijo que el condado debería co-crear e implementar estas políticas con los trabajadores y abordar las preocupaciones de que la IA podría usarse para la vigilancia en el lugar de trabajo.

“No sé si eso se ha estado haciendo de una manera más formal y organizada”, dijo Cohen a San José Spotlight. “Es necesario que haya supervisión humana sobre las herramientas de IA y que haya una persona involucrada en el proceso”.

Póngase en contacto con Brandon Pho en [email protected] o @brandonphooo en X.

Historia actualizada el 24 de marzo a las 12:08 p. m. Historia original publicada el 21 de marzo a las 8:30 a. m.