Carlos B Fernández. Los senadores estadounidenses Richard Blumenthal (Demócrata, de Connecticut) y Josh Hawley (Republicano, de Missouri), presidente y miembro, respectivamente, del Subcomité Judicial del Senado sobre Privacidad, Tecnología y Derecho, anunciaron el pasado día 8 la presentación de un marco bipartidista para la Ley norteamericana de inteligencia artificial (Bipartisan Framework for U.S. AI Act).
Este marco pretende establecer una serie de principios específicos aplicables a las iniciativas regulatorias ya en marcha en el país para regular esta tecnología, y dado su carácter consensuado entre los dos grandes partidos, permite augurar su aprobación por la Cámara.
Recordemos que en diciembre de 2022, la Casa Blanca anunció su proyecto de Carta de Derechos ante la IA para salvaguardar los derechos y la seguridad de los estadounidenses. En febrero de 2023, el Presidente Biden firmó una Orden Ejecutiva que ordena a los organismos federales erradicar los prejuicios en el diseño y uso de las nuevas tecnologías, incluida la IA, y proteger al público de la discriminación algorítmica (Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government). Y en abril, la la Administración de los Estados Unidos publicó un Plan Estratégico Nacional de I+D en IA para impulsar la IA responsable.
Adicionalmente a este acuerdo, la administración Biden se declara dispuesta a trabajar con sus aliados y socios para establecer un marco internacional sólido que rija el desarrollo y el uso de la IA. A estos efectos anuncia que ya ha consultado sobre los compromisos voluntarios con Alemania, Australia, Brasil, Canadá, Chile, Corea del Sur, Emiratos Árabes Unidos, Filipinas, Francia, India, Israel, Italia, Japón, Kenia, México, Nigeria, Nueva Zelanda, Países Bajos, Reino Unido y Singapur.
Estados Unidos pretende garantizar que estos compromisos apoyen y complementen el liderazgo de Japón en el Proceso de Hiroshima del G-7 --como foro fundamental para desarrollar principios compartidos para la gobernanza de la IA--, así como el liderazgo del Reino Unido como anfitrión de una Cumbre sobre la Seguridad de la IA, y el liderazgo de la India como presidente de la Asociación Global sobre IA.
El anuncio se produce tras múltiples audiencias en el Subcomité con testimonios de líderes académicos y de la industria. Así, En julio, Blumenthal y Hawley celebraron una audiencia titulada “Supervisión de la IA: principios para la regulación ” que reunió a líderes académicos y de la industria. En mayo, Blumenthal y Hawley celebraron su primera audiencia titulada "Supervisión de la IA: reglas para la inteligencia artificial", en la que escucharon al director ejecutivo de OpenAI, Sam Altman, la directora de privacidad y confianza de IBM, Christina Montgomery, y el profesor de la Universidad de Nueva York, Gary Marcus.
Los ejes de este marco son los siguientes:
1. Establecer un régimen de licencias, administrado por un organismo de supervisión independiente
Las empresas que desarrollen sofisticados modelos de IA de propósito general (p. ej., GPT-4) o modelos algorítmicos que se utilicen en situación que planteen un alto riesgo para los derechos de las personas (p. ej., el reconocimiento facial), deberán registrarse en un organismo de supervisión independiente.
Los requisitos de autorización deben incluir el registro de información sobre los modelos de IA y estar condicionados a que los desarrolladores mantengan programas de gestión de riesgos, pruebas previas al despliegue, gobernanza de datos y programas de notificación de incidentes.
El organismo de supervisión debe tener autoridad para para realizar auditorías de las empresas que soliciten licencias y cooperar con otros otros organismos encargados de velar por el cumplimiento de la ley, incluidos los fiscales generales de los estados. La entidad también debería supervisar e informar sobre los avances tecnológicos y las repercusiones económicas de la inteligencia artificial, como sus efectos en el empleo. sobre el empleo. Además, su personal debe estar sujeto a normas estrictas sobre conflictos de intereses para evitar los problemas de influencias y de puertas giratorias.
2. Garantizar la responsabilidad legal por los daños causados por estos sistemas
El Congreso debe garantizar que las empresas de IA puedan ser consideradas responsables a través de la aplicación de los organismos de supervisión y de derechos de acción privados cuando sus modelos y sistemas vulneren la privacidad, violen los derechos civiles o causen daños reconocibles.
En los casos en que las leyes existentes sean insuficientes para abordar los nuevos daños creados por la IA, el Congreso debe garantizar que los responsables y las víctimas puedan llevar a las empresas y a los autores ante los tribunales, incluyendo la aclaración de que la Sección 230 de la Communications Decency Act de 1996 (que establece, con excepciones que un "servicio informático interactivo" no puede ser tratado como editor o emisor de contenidos de terceros si un usuario publica contenidos ilegales), no se aplica a la IA.
En particular, el Congreso debe tomar medidas para prohibir directamente los daños que ya están surgiendo de la I.A., como las imágenes deepfake explícitas no consentidas de personas reales, la producción de material de abuso sexual infantil a partir de I.A. generativa y la interferencia electoral.
3. Defender la Seguridad Nacional y la Competencia Internacional
El Congreso debería utilizar controles de exportación, sanciones y otras restricciones legales para limitar la transferencia de modelos avanzados de IA, hardware y otros equipos a China, Rusia, otras naciones adversarias y países involucrados en graves violaciones de derechos humanos.
4. Promover la transparencia
El Congreso debe promover la responsabilidad, la diligencia debida y la reparación del consumidor ante el uso de la IA, exigiendo transparencia a las empresas que desarrollan e implantan estos sistemas.
Los desarrolladores deben estar obligados a revelar información esencial sobre los datos de entrenamiento, las limitaciones, la precisión y la seguridad de los modelos de Inteligencia Artificial a los usuarios y a las empresas que utilicen los sistemas, a través de información sencilla y comprensible, y comprensibles, y que faciliten a los investigadores independientes el acceso a los datos necesarios para evaluar el rendimiento de los modelos de inteligencia artificial.
Los usuarios deben tener derecho a una notificación afirmativa de que están interactuando con un modelo o sistema de inteligencia artificial.
Debe exigirse a los proveedores de sistemas de inteligencia artificial que pongan marcas de agua o de otro modo que proporcionen información técnica sobre las falsificaciones generadas por la IA.
El nuevo organismo de supervisión debería crear una base de datos pública y pública para que los consumidores e investigadores puedan acceder fácilmente a la información sobre modelos y sistemas de inteligencia artificial. información sobre modelos y sistemas de inteligencia artificial o cuando se produzcan fallos en la inteligencia artificial que causen daños.
5. Proteger a los consumidores y a los niños
Los consumidores deberían tener control sobre cómo se utilizan sus datos personales en los sistemas de IA y deberían imponerse límites estrictos a la generación de IA que involucre a niños. Se debe exigir a las empresas que implementan IA en situaciones de alto riesgo o con consecuencias que implementen frenos de seguridad y notifiquen cuando se utiliza IA para tomar decisiones adversas.
El Subcomité Judicial del Senado sobre Privacidad, Tecnología y Derecho tiene jurisdicción sobre cuestiones legales relacionadas con la tecnología y las plataformas de redes sociales, incluida la privacidad en línea y los derechos civiles, así como los impactos de las tecnologías nuevas o emergentes.