Su finalidad, según ha explicado la Secretaria general del CAI, Marija Pejcinovic Buric, es establecer un marco jurídico para todo el ciclo de vida de los sistemas de IA, de principio a fin.
Ahora el documento queda pendiente de aprobación por los representantes de los estados miembros, para pasar a quedar abierto a la firma, tanto por los países miembros del Consejo como de terceros interesados.
El acuerdo se ha alcanzado después de casi 2 años de negociaciones entre los 46 Estados miembros del Consejo de Europa, Argentina, Australia, Canadá, Costa Rica, Estados Unidos de América, Israel, Japón, México, Perú, la Santa Sede y Uruguay. Además contó con la participación de más de 70 organizaciones de la sociedad civil, representantes de la industria y organizaciones internacionales pertinentes con un mandato en materia de IA.
Esta circunstancia, según Pejcinovic, ha permitido al texto alcanzar un equilibrio adecuado al beneficiarse de las aportaciones de gobiernos y expertos, así como de la industria y la sociedad civil.
Ámbito de aplicación del Convenio
En un post en su perfil de LinkedIn Luca Bertuzzi informa de que la polémica cuestión del ámbito de aplicación de la norma, al igual que otros aspectos relevantes del Convenio, se han negociado principalmente de modo bilateral entre la Comisión Europea y la delegación estadounidense, dando entrada al pleno del Comité solo a última hora de la tarde.
Como consecuencia de esta negociación, el acuerdo refleja que, por defecto, el Convenio cubrirá las actividades dentro del ciclo de vida de los sistemas de IA que tengan el potencial de interferir con los derechos humanos, la democracia y el Estado de Derecho, pero sólo cuando las lleven a cabo organismos públicos o agentes privados que actúen en su nombre.
De esta forma, cada estado firmante del Convenio deberá analizar los riesgos e impactos sobre los derechos de las personas derivados del uso de sistemas de IA por parte de actores privados que no trabajen para el sector público de acuerdo con el objetivo y propósito del tratado. En este sentido, al firmar o depositar el Convenio para su ratificación, cada Estado tendrá que declarar si tiene intención de aplicar las obligaciones del Convenio a los agentes privados o tomar otras medidas apropiadas.
Un aspecto crucial es que los países pueden modificar sus declaraciones en cualquier momento. En otras palabras, subraya Bertuzzi, los países pueden elegir y no están realmente obligados a cumplir sus compromisos, ya que pueden cambiar de opinión en cualquier momento de un plumazo.
Este ámbito de aplicación se limita aún más en lo que respecta a la seguridad nacional, ya que los países no están obligados a aplicar el Convenio a los sistemas de IA relacionadas con la protección de sus intereses de seguridad nacional. La única limitación es que estas actividades se lleven a cabo dentro de los límites del derecho internacional y con respeto a los procesos democráticos, lo que ya debería ser un hecho.
Por todo ello, la opinión de este analista es muy crítica con el proceso negociador seguido.
Según él, desde el inicio de las negociaciones, el Convenio ha sido secuestrado por la dinámica y el regateo entre la UE y Estados Unidos, que han puesto en marcha un procedimiento de negociación opaco, contrario a las propias normas del Consejo de Europa.
De esta forma, lo que debía ser el primer tratado vinculante sobre Inteligencia Artificial se ha convertido en poco más que una declaración conjunta en la que los participantes sólo se comprometen a lo que ya hacen de la manera que quieren.
Y aunque en mayo el tratado se votará a nivel ministerial, y los países que quieran lo firmarán, lo que realmente importa es quién lo ratificará. Y en este sentido, Bertuzzi considera muy poco probable que Estados Unidos lo haga. Una decisión que puede hacer que, en la práctica, el texto sea en gran medida intrascendente debido a su dudosa aplicabilidad a las empresas privadas y a las actividades de seguridad nacional. Además, teniendo en cuenta todos los recursos invertidos para tan magros resultados, el Convenio sobre AI podría desalentar esfuerzos similares en el futuro.
Con todo, el trabajo del Comité continuará. El próximo paso será la elaboración de la Metodología para la Evaluación del Riesgo y el Impacto de los Sistemas de IA en los Derechos Humanos, la Democracia y el Estado de Derecho (HUDERIA).