Carlos B Fernánde. El gobernador de California, Gavin Newsom, ha firmado una Orden Ejectiva sobre el desarrollo y la regulación de la Inteligencia Artificial generativa (GenAI), en dicho Estado (Executive Order N-12-23, de fecha 6 de septiembre de 2023).
Se trata de una medida particularmente relevante por cuanto, tal como se expone en los Considerandos (Whereas) de la norma, California no solo es el estado más poblado y diverso de los Estados Unidos, sino que es el líder tecnológico mundial en innovación e investigación en GenAI, al ser la sede de 35 de las 50 principales empresas de Inteligencia Artificial (IA) del mundo y de centros docentes y de investigación tan prestigiosos como el College of Computing, Data Science and Society de la Universidad de California, Berkeley y del Human Centered AI (HAI), de la Universidad de Stanford.
Por tanto, las previsiones de esta orden tendrán sin duda muy relevantes consecuencias en las investigaciones, avances y productos que se desarrollen con base en esta tecnología.
La Orden prevé una serie de medidas de investigación sobre las ventajas y riesgos potenciales que plantea el uso de la GenAI, en especial en el ámbito público, y plantea la elaboración de un marco normativo acorde con los mismos.
En su exposición previa, la Orden declara que la GenAI "es una tecnología potencialmente transformadora --comparable a la llegada de Internet--, de la cual apenas estamos arañando la superficie en la comprensión de lo que es capaz de hacer. Reconocemos tanto los beneficios potenciales como los riesgos que estas herramientas plantean, pero no estamos ni congelados por los miedos que despierta ni hipnotizados por las ventajas que ofrece”. En consecuencia, “adoptamos un enfoque lúcido y humilde ante esta tecnología que cambia el mundo. Hacemos preguntas buscando respuestas entre los expertos, centrados en dar forma al futuro de una IA ética, transparente y digna de confianza".
Medidas a adoptar
Más en concreto, para desplegar GenAI de forma ética y responsable en todo el gobierno estatal, proteger y prepararse para posibles daños y seguir siendo el líder mundial en IA, la orden ejecutiva del Gobernador incluye una serie de disposiciones sobre:
- Informe de análisis de riesgos: Las agencias y departamentos estatales implicados deberán realizar un análisis de riesgos conjunto de las posibles amenazas y vulnerabilidades que el uso de la GenAI puede suponer para la infraestructura energética crítica de California
-Proyectos de contratación de GenAI: las agencias implicadas emitirán unas directrices generales para la contratación del sector público, los usos y la formación requerida para la aplicación de GenAI, basándose en el Plan de la Casa Blanca para una Declaración de Derechos digitales y el Marco de Gestión de Riesgos de la IA del Instituto Nacional de Ciencia y Tecnología (NIST). Las agencias y departamentos estatales considerarán las oportunidades de adquisición y uso empresarial donde GenAI pueda mejorar la eficiencia, eficacia, accesibilidad y equidad de las operaciones gubernamentales.
- Informe sobre los usos beneficiosos de la GenAI: Se encargará a las agencias y departamentos estatales la elaboración de un informe que examine los usos más significativos y beneficiosos de GenAI en el Estado. El informe también explicará los daños y riesgos potenciales para las comunidades, el gobierno y los trabajadores del gobierno estatal.
-Marco de despliegue y análisis: Se desarrollarán unas directrices para que las agencias y departamentos estatales implicados analicen el impacto que la adopción de herramientas de GenAI puede tener en las comunidades vulnerables. El Estado establecerá la infraestructura necesaria para llevar a cabo pilotos de proyectos GenAI, incluyendo entornos aprobados por el Departamento de Tecnología de California o "sandboxes" para probar dichos proyectos.
- Formación de empleados estatales: Para apoyar a la fuerza de trabajo del gobierno estatal de California y prepararse para la próxima generación de habilidades necesarias para prosperar en la economía basada en la GenAI, las agencias estatales proporcionarán formación para que los trabajadores del gobierno estatal utilicen GenAI aprobada por el estado y establecerán criterios para evaluar el impacto de GenAI en la fuerza de trabajo del gobierno estatal.
- Asociación y simposio GenAI: Se establecerá una asociación formal con la Universidad de California, Berkeley y la Universidad de Stanford para considerar y evaluar los impactos de GenAI en California y qué esfuerzos debe emprender el estado para avanzar en su liderazgo en esta industria. El estado y las instituciones desarrollarán y organizarán una cumbre conjunta en 2024 para entablar debates significativos sobre los impactos de GenAI en California y su fuerza de trabajo.
- Compromiso legislativo: Se establece el compromiso con los socios legislativos y las principales partes interesadas en un proceso formal para desarrollar recomendaciones políticas para el uso responsable de la IA, incluyendo directrices, criterios, informes y/o formación.
- Evaluación continua del impacto de la IA: se evaluará periódicamente el impacto potencial de la GenAI en el ámbito normativo bajo la autoridad de la agencia, departamento o junta respectiva, efectuándose las recomendaciones de actualización necesarias de acuerdo con la evolución de esta tecnología.
Calendario de implementación
En consecuencia, la orden prevé un plan de trabajo a dos años
- En el plazo de 60 días desde la emisión de esta orden, la Agencia de Operaciones Gubernamentales, el Departamento de Tecnología, la Oficina de Datos e Innovación y la Oficina del Gobernador para el Desarrollo Empresarial y Económico colaborarán en la redacción de un informe que examinará los casos de uso significativos de herramientas GenAI y los riesgos asociados, particularmente en escenarios de alto riesgo que afectan a bienes y servicios esenciales.
- En enero de 2024 se publicarán las directrices para la adquisición, el uso y la formación necesaria de GenAI por parte del sector público. Estas directrices abordarán la seguridad, la discriminación algorítmica, la privacidad de los datos y la notificación de los materiales generados por GenAI.
- En marzo de 2024, el Centro de Integración de Ciberseguridad de California y el Centro de Evaluación de Amenazas del Estado de California llevarán a cabo un análisis de riesgos conjunto. Evaluarán las posibles amenazas a las infraestructuras energéticas críticas que plantea GenAI y ofrecerán recomendaciones para salvaguardarse de estos riesgos.
- En julio de 2024, se desarrollarán directrices para que las agencias estatales evalúen el impacto de la adopción de herramientas GenAI en las comunidades vulnerables y evalúen los resultados equitativos.
- En enero de 2025 se actualizarán los términos de aprobación de proyectos, adquisiciones y contratos para incorporar los comentarios obtenidos.