San José establece barandillas en el lugar de trabajo para usar IA

A medida que más personas integran la inteligencia artificial en su vida cotidiana, desde estudiantes que usan ChatGPT para la tarea hasta adultos que usan IA para el arte, los líderes de San José la están adaptando a su trabajo diario.

La ciudad lanzó su primer conjunto de pautas para empleados el lunes por IA generativa, una tecnología que tiene la capacidad de generar texto, imágenes y otros medios en respuesta a indicaciones. Una de estas formas es ChatGPT, y la ciudad quiere asegurarse de que esta tecnología futurista se aplique con cuidado y responsabilidad.

El uso de IA puede ayudar a los empleados con su capacidad de responder y trabajar de manera más eficiente, lo que les permite interactuar más plenamente con los residentes. Pero la mayor preocupación es el tema de la confiabilidad, la privacidad y la transparencia del gobierno, dijeron funcionarios de la ciudad.

El movimiento para adoptar pautas en San José se produce después de un informe del 2023 por la Institución Brookings, un grupo de expertos con sede en DC, publicado la semana pasada mostró San José y el Área de la Bahía se han convertido en el centro a nivel nacional para la industria de la IA.

"IA generativa, está aquí, está disponible para todos", dijo Albert Gehami, oficial de privacidad digital de la ciudad, a San José Spotlight. “La gente lo está usando para todo tipo de cosas. Queríamos adelantarnos al juego, no queríamos ignorarlo”.

Gehami dijo que un punto clave en las 23 páginas de pautas de la ciudad es que los empleados deben saber que cuando se ingresa un aviso en un sistema de IA, estará sujeto a la Ley de Registros Públicos, lo que significa que el público puede solicitar ver qué aviso se usó. Dijo que otro punto es que estos sistemas son propensos a errores, y todo el trabajo realizado con IA aún debe verificarse. Las pautas que los empleados estatales deben citar cuando usan aplicaciones de IA en su trabajo.

Gehami enfatizó que el uso de la IA generativa no cambiará fundamentalmente el funcionamiento de la ciudad.

Las pautas son un primer borrador y pueden evolucionar, dijo. Este lanzamiento inicial brinda a los residentes la oportunidad de aprender cómo la administración de la ciudad se mantiene a la vanguardia de esta tecnología emergente, agregó. La esperanza de esta implementación lenta de pautas es que el público se involucre con los líderes de la ciudad sobre este tema para ayudar con protocolos futuros.

“Ignorarlo no es realmente una opción cuando es tan generalizado”, dijo Gehami. “Es por eso que queríamos publicar estas (directrices), para ser parte de esa conversación y realmente comenzar a pensar (y) reflexionar sobre cómo se debe usar esto para la ciudad y cómo esto puede ayudarnos”.

Rob Lloyd, administrador adjunto de la ciudad, se hizo eco de Gehami y dijo que las pautas ayudarán a la ciudad a usar la tecnología de manera más responsable.

"(Las pautas) nos brindan un punto de partida ... para establecer algunos aparadores tempranos porque el hecho es que esto puede causar daño cuando no se tiene cuidado", dijo Lloyd a San José Spotlight.

En todo el país, ha habido respuestas mixtas sobre si adoptar la nueva tecnología en el lugar de trabajo. Seattle creó un equipo asesor para presentar recomendaciones al director de tecnología sobre la política de IA generativa. Pero en otros lugares como Maine, el poder ejecutivo estatal ha prohibido por completo el uso de la tecnología. Incluso el Distrito Escolar Unificado de Los Ángeles prohibió temporalmente ChatGPT en diciembre.

A escala nacional, los legisladores han debatido el uso de la IA. El congresista de Silicon Valley, Ro Khanna, presentó el primer proyecto de ley que utilizó ChatGPT en julio.

En junio, miembros del Senado le pidieron a la Oficina de Responsabilidad Gubernamental que se sumergiera en los posibles daños como resultado del uso de estas herramientas y preguntaron sobre estrategias para frenar los daños potenciales.

Stephen Wu, accionista y abogado de Silicon Valley Law Group y presidente del Instituto Nacional de Inteligencia Artificial y Robótica de la Asociación Estadounidense de Abogados, dijo que San José está pensando en el futuro al establecer pautas de manera proactiva. Dijo que las pautas ayudan a proteger parcialmente contra problemas de confiabilidad con inteligencia artificial.

"Es la ola del futuro", dijo Wu a San José Spotlight. “Es algo que va a ser una herramienta de uso común en el futuro. Así que sí, creo que la ciudad debería usarlo... La comunidad debería tener derecho a saber que la ciudad está tratando de seguir todos estos principios al usar la IA generativa para hacer los negocios de la gente".

Póngase en contacto con Julia Forrest en [email protected] o sigue a @juliaforrest35 en Twitter.