La Organización para la Cooperación y el Desarrollo Económico (OCDE) ha presentado un documento, titulado “Memorandum explicativo de la definición actualizada de los sistemas de IA” (Explanatory Memorandum on the updated OECD definition of an AI system), para ayudar a interpretar esta definición en la práctica.
Esta organización ya disponía, desde 2019, de una definición de la inteligencia artificial (IA), como parte de su política para promover una tecnología innovadora y confiable, que respete los derechos humanos y los valores democráticos. Esa definición, incluida en sus “Principios de la OCDE sobre la IA” se basada principalmente en el trabajo y el enfoque desarrollado por los expertos Stuart Russell y Peter Norvig en su obra de referencia sobre la materia “Artificial Intelligence: A modern approach”.
Posteriormente, en noviembre de 2023 la OCDE revisó esa definición, estableciéndola de la siguiente manera:
“Un sistema de IA es un sistema basado en máquinas que, para unos objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Los distintos sistemas de IA varían en sus niveles de autonomía y adaptabilidad tras su despliegue.”
La OCDE asume que esta es una definición necesariamente breve y concisa, que trata de recoger los rasgos básicos de una tecnología que permitan el consenso entre países con culturas y economías tan diversas como de sus miembros de Europa (incluyendo la UE), América (incluyendo los EEUU, Canadá, México y Chile) y Asia (Australia, Japón, Nueva Zelanda o Corea del Sur).
Es, además, una definición que pretende ser flexible y amplia, por lo que su alcance concreto debe determinarse “en función del contexto en el que se utilice”.
Por ello la OCDE considera que la aplicación en la práctica de esta definición depende de una serie de consideraciones complejas y técnicas que el Memorando Explicativo que acaba de publicar pretende apoyar.
Además de actualizar ligeramente la definición anterior, este documento contiene información para ayudar a interpretar la definición añadiendo más información sobre cómo se construyen y funcionan los sistemas de IA.
Para ello, se basa en las aportaciones de los expertos, en el Marco de Clasificación de la OCDE y en el trabajo del grupo de expertos de la OCDE sobre "qué es la IA" realizado en 2018-2019.
Una definición relevante a efectos del Reglamento de IA
La noción de IA utilizada por la OCDE tiene mucha relevancia para comprender la utilizada a su vez por el futuro Reglamento de IA de la Unión Europea.
Esta, tras el acuerdo alcanzado entre Consejo y Parlamento en diciembre pasados, ha quedado como sigue:
"Sistema de IA" es "un sistema basado en máquinas diseñado para funcionar con diversos niveles de autonomía y que puede mostrar capacidad de adaptación tras su despliegue y que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales".
Una definición no por casualidad claramente alineada con la de la OCDE pues, como plantearon en su día tanto el Consejo como el Parlamento europeos y se recoge en el Considerando 6 del Reglamento de IA (posiblemente 12 en la versión final): "La noción de sistema de IA en el presente Reglamento debe definirse claramente y ajustarse estrechamente a la labor de las organizaciones internacionales que trabajan en el ámbito de la inteligencia artificial para garantizar la seguridad jurídica, facilitar la convergencia internacional y una amplia aceptación, al tiempo que se proporciona la flexibilidad necesaria para adaptarse a la rápida evolución tecnológica en este ámbito".
Además, precisa, la definicación "debe basarse en las características clave de los sistemas de inteligencia artificial, que los distinguen de los sistemas de software tradicionales más sencillos o de los enfoques de programación, y no debe abarcar los sistemas que se basan en las reglas definidas únicamente por personas físicas para ejecutar operaciones automáticamente". Añadiendo a continuación que "una característica clave de los sistemas de IA es su capacidad para inferir".
Esa convergencia internacional a la que hace referencia este Considerando podría traducirse, eventualmente, en un posible futuro internacional de IA, actualmente en curso de elaboración. Y para alcanzarla, no cabe duda de que sería muy conveniente disponer de un concepto armonizado de esta tecnología. Algo para lo que esta convergencia entre la noción de la Unión Europea y la de la principal organización de cooperación económica internacional, podría ser muy útil.
El Memorandum analiza pormenorizadamente, cada uno de los elementos de la nueva definición, ofreciendo una explicación sobre su contenido y alcance.
Autonomía y adaptabilidad y papel de los seres humanos
Por autonomía de un sistema de IA (una noción incluida tanto en la definición original como en la revisada) se entiende el grado en que un sistema puede aprender o actuar sin intervención humana, tras la delegación de la autonomía y automatización de procesos por parte de los seres humanos.
Según la OCDE, la supervisión humana puede producirse en cualquier fase del ciclo de vida del sistema de IA, por ejemplo, durante la fase de, de recopilación y tratamiento de datos, su desarrollo, la verificación, la validación, el despliegue o el funcionamiento y la supervisión.
Algunos sistemas de IA pueden generar resultados sin que éstos hayan sido descritos explícitamente como objetivos del sistema de IA y sin instrucciones específicas de un humano.
La capacidad de adaptación (incluida en la definición revisada de sistema de IA) suele estar relacionada con los sistemas de IA basados en el aprendizaje automático que pueden seguir evolucionando tras el desarrollo inicial.
En su virtud, el sistema modifica su comportamiento mediante la interacción directa con los datos de entrada antes o después de su despliegue. Algunos ejemplos son un sistema de reconocimiento de voz que se adapta a la voz de un individuo concreto, o un sistema de recomendación de música personalizado.
Los sistemas de IA pueden entrenarse una vez, periódica o continuamente y funcionan deduciendo patrones y relaciones en los datos. Gracias a este entrenamiento, algunos sistemas de IA pueden desarrollar la capacidad de realizar nuevas formas de inferencia no previstas inicialmente por sus programadores.
Entorno o contexto
El entorno o contexto en relación con un sistema de IA es un espacio observable o parcialmente observable, percibido mediante datos y entradas de sensores y que puede ser influido mediante acciones (a través de actuadores).
Los entornos en los que influyen los sistemas de IA pueden ser físicos o virtuales e incluyen entornos que describen aspectos de la actividad humana, como las señales biológicas o el comportamiento humano. Los sensores y actuadores son humanos o componentes de máquinas o dispositivos.
Objetivos del sistema de IA
Los objetivos de los sistemas de IA pueden ser explícitos o implícitos. En este sentido, puede pueden pertenecer a algunas de las siguientes categorías, que pueden solaparse en algunos sistemas:
- Explícitos y definidos por el ser humano
Cuando el desarrollador codifica el objetivo directamente en el sistema (por ejemplo, a través de una función objetivo). Ejemplos de sistemas con objetivos explícitos son los clasificadores simples, los sistemas de juego, los sistemas de aprendizaje por refuerzo, los sistemas de resolución de problemas combinatorios, los algoritmos de planificación y los algoritmos de programación dinámica.
- Reglas implícitas (normalmente especificadas por el ser humano)
Las reglas dictan la acción que debe realizar el sistema de IA en función de las circunstancias del momento. Por ejemplo, un sistema de conducción puede tener una regla: "Si el semáforo está en rojo, pare".
Sin embargo, los objetivos subyacentes de estos sistemas, como cumplir la ley o evitar accidentes, no son explícitos, aunque suelen estar especificados por los humanos.
- Implícitos en los datos de entrenamiento
Cuando el objetivo final no está programado explícitamente, sino que se incorpora a través de los datos de entrenamiento y de una arquitectura del sistema que aprende a emular esos datos (por ejemplo, recompensando a los grandes modelos lingüísticos por generar una respuesta plausible);
- No conocidos por completo de antemano
Algunos ejemplos son los sistemas de recomendación que utilizan el aprendizaje por refuerzo para acotar gradualmente un modelo de las preferencias de cada usuario.
Los sistemas de IA pueden funcionar según uno o varios tipos de objetivos. Además, las indicaciones a los usuarios pueden complementar los objetivos de diseño cuando el sistema está en funcionamiento (por ejemplo, un destino específico proporcionado por el usuario en el caso de un sistema de navegación o indicaciones en grandes modelos lingüísticos).
Entradas (o input), incluidos los datos
Las entradas se utilizan tanto durante el desarrollo como después de la implantación del sistema de IA. Pueden adoptar la forma de conocimientos, reglas y código que el ser humano introduce en el sistema durante el desarrollo, o de datos. Además, tanto las personas como otras máquinas pueden aportar información al sistema.
Durante el desarrollo del mismo, las aportaciones se aprovechan para crear sistemas de IA, por ejemplo, con el aprendizaje automático que puede generar un modelo a partir de datos de entrenamiento y/o aportaciones humanas.
Las aportaciones también las utiliza un sistema en funcionamiento, por ejemplo, para deducir cómo generar resultados. Las entradas pueden incluir datos relevantes para la tarea que se va a realizar o adoptar la forma de, por ejemplo, una pregunta del usuario o una consulta de búsqueda.
Creación de sistemas y modelos de inteligencia artificial
Antes de su despliegue, un sistema de IA se construye normalmente combinando uno o más modelos desarrollados manual o automáticamente (por ejemplo, con algoritmos de razonamiento y toma de decisiones) basados en entradas/datos de máquinas y/o humanos.
- El aprendizaje automático es un conjunto de técnicas que permite a las máquinas mejorar su rendimiento y, por lo general, generar modelos de forma automatizada, a través de la exposición a datos de entrenamiento, lo que puede ayudar a identificar patrones y regularidades en lugar de a través de instrucciones explícitas de un humano. El proceso de mejora del rendimiento de un sistema mediante técnicas de aprendizaje automático se conoce como "entrenamiento".
- Los sistemas de IA simbólicos o basados en el conocimiento suelen utilizar representaciones lógicas y/o probabilísticas, que pueden ser generadas por humanos o por máquinas, para inferir resultados como predicciones y decisiones. Estas representaciones se basan en descripciones explícitas de variables y de sus interrelaciones. Por ejemplo, un sistema que razona sobre procesos de fabricación puede tener variables que representen fábricas, mercancías, trabajadores, vehículos, máquinas, etcétera.
- Además, la IA simbólica puede utilizar el aprendizaje automático. Por ejemplo, la programación lógica inductiva aprende representaciones lógicas simbólicas a partir de datos, y el aprendizaje de árboles de decisión aprende reglas lógicas simbólicas en forma de árbol de condiciones lógicas.
Aunque existen diferentes interpretaciones de la palabra "modelo", a efectos del Memorandum, un modelo de IA es un componente central de un sistema de IA utilizado para hacer inferencias a partir de entradas para producir salidas. Es importante señalar que, aunque los parámetros de un modelo de IA cambian durante la fase de construcción, normalmente permanecen fijos después de su despliegue, una vez concluida la fase de construcción.
- Un modelo se define como una "representación física, matemática o lógica de un sistema, entidad, fenómeno, proceso o datos" en la norma ISO/IEC 22989. Los modelos de IA incluyen, entre otros, modelos estadísticos y diversos tipos de funciones de entrada-salida (como árboles de decisión y redes neuronales). Un modelo de IA puede representar la dinámica de transición del entorno, lo que permite a un sistema de IA seleccionar acciones examinando sus posibles consecuencias utilizando el modelo. Los modelos de IA pueden ser construidos manualmente por programadores humanos o automáticamente mediante, por ejemplo, técnicas de aprendizaje automático no supervisado, supervisado o de refuerzo.
"Inferir cómo" generar salidas
El concepto de "inferencia" se refiere generalmente a la etapa en la que un sistema genera una salida a partir de sus entradas, normalmente después de su despliegue (según la norma ISO 22989, "inferencia" se refiere tanto al proceso de razonamiento para derivar conclusiones a partir de premisas conocidas, como hechos, reglas, modelos, características o datos brutos, como al resultado de ese proceso).
Cuando se realiza durante la fase de construcción, la inferencia, en este sentido, se utiliza a menudo para evaluar una versión de un modelo, en particular en el contexto del aprendizaje automático. En el contexto de este Memorandum, debe entenderse que "inferir cómo generar salidas" se refiere también a la fase de construcción del sistema de IA, en la que se obtiene un modelo a partir de entradas/datos.
Salida(s) – Output(s)
La(s) salida(s) generada(s) por un sistema de IA suele(n) reflejar las distintas funciones que desempeñan los sistemas de IA. Los resultados de los sistemas de IA suelen pertenecer a las categorías generales de recomendaciones, predicciones y decisiones.
Estas categorías corresponden a diferentes niveles de participación humana, siendo las "decisiones" el tipo de salida más autónomo (el sistema de IA afecta directamente a su entorno o dirige a otra entidad para que lo haga) y las "predicciones" el menos autónomo (en el contexto de la IA.
Debe resaltarse, en este sentido, que el término "predicción" no significa necesariamente realizar una conjetura sobre el futuro, pues puede significar simplemente hacer una conjetura sobre un valor desconocido (la salida) a partir de valores conocidos suministrados al sistema (la entrada)). Por ejemplo, un sistema de asistencia al conductor puede "predecir" que una región de píxeles en la entrada de su cámara es un peatón; puede "recomendar" frenar o puede "decidir" pisar el freno. Los sistemas de IA generativa que producen "contenido" --texto, imagen, audio y vídeo-- han cobrado un gran impulso. Aunque se podría, por ejemplo, considerar la generación de texto como una secuencia de decisiones para emitir palabras concretas (o predicciones de palabras que probablemente aparecerían en un contexto específico), los sistemas de generación de contenidos se han convertido en una clase tan importante de sistemas de IA que se incluyen como su propia categoría de resultados en la presente definición revisada.
Aplicación de la definición actualizada
Finalmente el Memorandum señala que la definición actualizada de IA es inclusiva y abarca sistemas que van de lo simple a lo complejo. La IA representa un conjunto de tecnologías y técnicas aplicables a muchas situaciones diferentes. Algunas técnicas específicas, como el aprendizaje automático, pueden plantear consideraciones particulares a los responsables políticos, como la parcialidad, la transparencia y la explicabilidad, y algunos contextos de uso (por ejemplo, las decisiones sobre prestaciones públicas) pueden suscitar preocupaciones más importantes que otros. Por este motivo, cuando se aplique la nueva definición en la práctica, pueden ser necesarios criterios adicionales para restringir o adaptar de otro modo la definición cuando se utiliza en un contexto específico.