El Comité sobre Inteligencia Artificial (IA) del Consejo de Europa (CAI) ha hecho público un primer borrador, denominado "Borrador Cero" del Convenio [Marco] sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho.
El documento, elaborado por la Presidencia del CAI con el apoyo de la Secretaría, servirá de base para las próximas negociaciones en el Comité y, posteriormente, para ser negociado con la Comisión Europea.
La propuesta consta de un preámbulo y 38 artículos agrupados en ocho Capítulos: Disposiciones generales; Utilización de sistemas de IA por autoridades públicas; Utilización de sistemas de IA para el suministro de bienes, instalaciones y servicios; Principios de diseño, desarrollo y puesta en práctica de sistemas de IA; Medidas y salvaguardias para garantizar la responsabilidad y la reparación de los daños causados; Evaluación y mitigación de riesgos e impactos adversos; Mecanismo de seguimiento y cooperación y Disposiciones finales.
Objetivo y ámbito de aplicación
Según el artículo 1 de la propuesta (Objeto y finalidad), el Convenio establece un conjunto de principios, normas y derechos destinados a garantizar que el diseño, el desarrollo y la puesta en servicio de sistemas de IA sean plenamente compatibles con el respeto de los derechos humanos, el funcionamiento de la democracia y la del Estado de Derecho.
Para ello, cada Parte adoptará las medidas necesarias en su legislación nacional para dar efecto a los principios, normas y derechos enunciados en el presente Convenio.
En cuanto a su ámbito de aplicación, el artículo 4 establece que el Convenio se aplicará al diseño, desarrollo y puesta en práctica de sistemas de IA que se utilicen en un contexto que plantee interrogantes relacionadas con el respeto de los derechos humanos, el funcionamiento de la democracia y la observancia del Estado de Derecho.
A estos efectos, el Convenio se aplicará a dichos sistemas durante todo su ciclo de vida, independientemente de que estas actividades sean realizadas por agentes públicos o privados.
Sin embargo, el Convenio no se aplicará al diseño, desarrollo y aplicación de sistemas de inteligencia artificial utilizados para fines relacionados con la defensa nacional.
Principios fundamentales de diseño, desarrollo y aplicación de sistemas de inteligencia artificial
La propuesta establece los siguientes principios
- Principio de igualdad y lucha contra la discriminación (Artículo 12)
Cada Parte velará, dentro de su jurisdicción y de conformidad con su derecho interno, por que el diseño, el desarrollo y la aplicación de los sistemas de IA respeten el principio de igualdad, incluyendo la igualdad de género y los derechos relacionados con los grupos discriminados y las personas en vulnerables.
- Principio de privacidad y protección de datos personales (Artículo 13)
Cada Parte garantizará, dentro de su jurisdicción, que en lo que respecta al diseño, desarrollo y aplicación de sistemas de IA se proteja la intimidad de las personas, mediante leyes y normas nacionales e internacionales sobre protección de datos personales y gobernanza de datos y se establezcan garantías y salvaguardias adecuadas para los interesados.
- Principio de rendición de cuentas, responsabilidad y responsabilidad jurídica (Artículo 14)
Cada Parte adoptará, dentro de su jurisdicción, las medidas necesarias para garantizar la obligación de rendir cuentas y la responsabilidad jurídica por cualquier daño o perjuicio ilícito a los derechos humanos y las libertades fundamentales resultantes de la aplicación de sistemas de IA.
- Principio de transparencia y supervisión (Artículo 15)
Cada Parte, dentro de su jurisdicción y de conformidad con su derecho interno, velará por que se establezcan mecanismos adecuados de supervisión, así como de transparencia y supervisión adaptados a los riesgos específicos derivados del contexto en el que se apliquen los sistemas de IA.
- Principio de seguridad (Artículo 16)
Cada Parte garantizará, dentro de su jurisdicción y de conformidad con su Derecho interno, que se apliquen medidas adecuadas de seguridad, protección, calidad de los datos, integridad de los datos, seguridad de los datos, ciberseguridad y robustez al diseño, desarrollo y puesta en servicio de estos sistemas.
- Principio de innovación segura (Artículo 17)
Con el fin de estimular la investigación y fomentar la innovación, cada Parte, dentro de su jurisdicción y de conformidad con su Derecho interno, preverá el establecimiento de un entorno reglamentario controlado para la experimentación de sistemas de IA por parte de los proveedores y usuarios de los mismos, bajo la supervisión de sus autoridades competentes.
- Consulta pública y medidas adicionales (Artículo 18)
Las Partes se esforzarán por garantizar que las cuestiones fundamentales planteadas por el diseño, desarrollo y aplicación de los sistemas de IA sean objeto de un debate público y consulta de las múltiples partes interesadas, teniendo en cuenta, en particular, las repercusiones sociales, económicas, éticas y jurídicas pertinentes, económicas, éticas y jurídicas pertinentes.
Se añade además que las Partes fomentarán y promoverán la alfabetización digital y las competencias digitales para todos los segmentos de la de la población.
Medidas para garantizar una indemnización por los daños causados por un sistema de IA
El texto prevé en su Capítulo V (arts. 19 a 23) que cada Parte, dentro de su jurisdicción y de conformidad con su derecho interno, adoptará medidas que garanticen la disponibilidad de reparación por cualquier daño o perjuicio ilícito a los derechos humanos y las libertades fundamentales resultantes de la aplicación de sistemas de IA mediante el establecimiento de un sistema, de conformidad con su Derecho interno, por el que se registre el uso del sistema y, en su caso, se comunique el mismo a los sujetos afectados.
Se deberá garantizar que dicha comunicación contenga información suficiente para una efectiva posibilidad de impugnar la aplicación del sistema o de impugnar la decisión o decisiones que afecten a los derechos y libertades del sujeto afectado por el funcionamiento del sistemaen lo que se refiere a la utilización del mismo.
Igualmente se deberán poner a su disposición mecanismos eficaces de recurso.
Gestión de riesgos e impactos causados por sistemas de IA
El Capítulo IV de la propuesta se refiere a este aspecto, previendo el artículo 24 que cada Parte, de conformidad con su legislación nacional, proporcionará orientaciones eficaces a los proveedores y usuarios de sistemas de IA sobre cómo identificar, evaluar, prevenir y mitigar los riesgos e impactos adversos resultantes de la aplicación de los mismos en relación con el disfrute de los derechos humanos, el funcionamiento de la democracia y la observancia del Estado de Derecho.
Dichas orientaciones garantizarán que las evaluaciones de riesgos e impactos y la aplicación de las medidas de prevención y mitigación conexas establezcan unos requisitos proporcionados dirigidos a los contextos específicos de aplicación de un sistema de inteligencia artificial que planteen mayores riesgos para la la democracia y el Estado de Derecho.
Llamativamente, esta propuesta prevé en ese mismo artículo que cada Parte preverá, de conformidad con su derecho interno, la posibilidad de imponer una moratoria o prohibición de determinadas aplicaciones de los sistemas de inteligencia artificial cuando dicha medida sea considerada apropiada y necesaria por la autoridad nacional competente.