Los trabajadores de San José exigen medidas de protección contra la IA.

San José ha sido pionera en la adopción de herramientas de inteligencia artificial generativa. Ahora, el sindicato más grande del sector público de la ciudad exige que también adopte rápidamente medidas de protección para los trabajadores.

En medio de las negociaciones en curso para la renovación del contrato con la ciudad, AFSCME Local 101 ha presentado un paquete de propuestas Su objetivo es dar a los trabajadores una mayor voz en la forma en que se implementa la tecnología.

Los líderes de San José tienen adoptaron con entusiasmo las herramientas de IAArgumentan que ayudan a la ciudad a lograr más a pesar de la escasez de personal que arrastra desde hace tiempo. Sin embargo, los trabajadores han expresado una creciente preocupación por los posibles riesgos de desplazamiento, así como por la posibilidad de implementaciones desorganizadas de nuevos sistemas automatizados que podrían interrumpir las operaciones gubernamentales.

“Creemos que en muchos ámbitos, la imposición de tecnología desde arriba sin la participación de quienes realizan el trabajo conlleva la posibilidad de errores graves”, declaró John Tucker, representante sénior del sindicato de 3,400 empleados municipales, a San José Spotlight. “Simplemente queremos establecer algunas medidas básicas de protección para las nuevas tecnologías que realmente mejoren los servicios públicos y que no generen nuevos riesgos para los trabajadores de la comunidad”.

El paquete, presentado la semana pasada, incluye el requisito de que la ciudad no utilice la IA para reemplazar trabajadores. Otras propuestas limitarían el uso de esta tecnología en los procesos de contratación y para el seguimiento del desempeño laboral.

El sindicato también solicita a la ciudad que establezca un comité de supervisión conjunto, con representantes del sindicato y de la ciudad, para revisar los nuevos sistemas técnicos antes de que se implementen en las operaciones municipales.

Dado que el contrato actual de AFSCME Local 101 expira a finales de junio, el sindicato impulsó las demandas de IA como parte de negociaciones contractuales más amplias, que también incluyen debates sobre salarios, beneficios y condiciones laborales.

Según Demetria Machado, jefa de gabinete de la Oficina del Administrador Municipal, los funcionarios de la ciudad están revisando actualmente las propuestas del sindicato.

“La ciudad de San José comprende las preocupaciones del personal y estamos adoptando un enfoque reflexivo y responsable con respecto a la inteligencia artificial”, declaró Machado a San José Spotlight.

En 2023, poco después del lanzamiento de ChatGPT 3, San José lanzó el Coalición GovAI, una organización que ha reunido a cientos de líderes municipales para crear estándares para la Uso responsable de la IA en el gobierno local.

La ciudad también ha experimentado con herramientas de IA para ayudar en un conjunto de funciones de la ciudadcomo por ejemplo optimizar el transporte público, traducción de reuniones públicas y revisando documentos oficiales. Más recientemente, la ciudad ha iniciado una búsqueda de un plataforma de IA generativa capaz de ayudar a los trabajadores a agilizar las tareas rutinarias.

Machado afirmó que los trabajadores de San José no están obligados a usar IA. En cambio, la ciudad ofrece a sus empleados cursos de capacitación en IA, que incluyen talleres sobre cómo gestionar los riesgos de ciberseguridad de esta tecnología.

«Como gran ciudad con personal limitado, la IA nos ayuda a mejorar la eficiencia y a mantener los niveles de servicio», dijo Machado. «Cuando se usa de forma responsable, permite a la ciudad ofrecer servicios más eficientes y accesibles, incluyendo un mejor acceso lingüístico para nuestra diversa comunidad».

Para Tucker —y otros defensores laborales que supervisan el uso de la IA en el gobierno—, una preocupación particular es la posible implementación de esta tecnología en los centros de atención telefónica. Advierten que, si bien los chatbots pueden parecer una buena manera de agilizar las operaciones de los centros de atención telefónica, en la práctica, los operadores artificiales suelen cometer errores críticos, lo que provoca fallos en el servicio al cliente y, en última instancia, genera más trabajo para los empleados humanos.

Tucker reconoce que es poco probable que el impulso que impulsa la adopción de la IA disminuya en un futuro próximo.

“Hasta cierto punto, el tren ya partió”, dijo Tucker. “Pero parece que San José, al ser la capital de Silicon Valley, es el lugar idóneo para librar esta batalla y poder aportar ideas”.

San José no sería el primer gobierno en adoptar tales salvaguardias para los trabajadores públicos. En marzo pasado, Pensilvania acordó establecer un junta de supervisión de los trabajadores, incluidos los empleados estatales, para revisar el uso de herramientas de IA generativa en las operaciones estatales.

Más cerca de casa, la Junta de Supervisores del Condado de Santa Clara ordenó esta semana una estudio comprensivo sobre el uso de la IA en sus diversos departamentos, después de que los trabajadores expresaran preocupaciones similares sobre los riesgos de desplazamiento.

Sin embargo, si San José accediera a la demanda del sindicato, la ciudad se situaría a la vanguardia de los gobiernos locales en lo que respecta a la protección de los trabajadores en el sector tecnológico en auge.

“Estamos en las primeras etapas de este proceso”, declaró Lisa Kresge, investigadora principal del Centro Laboral de la UC Berkeley, a San José Spotlight. “Pero contar con el sindicato y los trabajadores en la mesa de negociaciones para siquiera tener esta conversación es absolutamente fundamental, si queremos asegurarnos de que la tecnología beneficie a la sociedad en su conjunto”.

Comuníquese con Keith Menconi en [email protected] o @KeithMenconi en X.