Tecnología. Inteligencia Artificial. Ética. Valores. Equidad. Libertad. Seguridad. Responsabilidad.
Technology. Artificial intelligence. Ethics. Values. Equity. Freedom. Security. Responsibility.
Carmen Pellicer
Directora de Cuadernos de Pedagogía
En 1982, se estrenaba la película «Blade Runner», de Ridley Scott, basada en la novela de Philip K. Dick, «¿Sueñan los androides con ovejas eléctricas?» (1968). Una historia que transcurre en noviembre de 2019 donde la bioingeniería desarrolla seres artificiales idénticos a los humanos con profesiones y recuerdos implantados de tal manera que éstos, llamados replicantes, creen que son humanos. En un momento dado, se amotinan contra los humanos y se crea un comando especial de blade runners que debe buscarlos y eliminarlos. Un miembro de esta élite es Rick Deckard, quien, en su persecución a esos humanoides, reflexionará sobre el binomio surgido entre lo humano y lo científico, una cuasi obsesión en la cinematografía de ciencia ficción que ahora empieza a acercarse a un debate real
«Rick extrajo un viejo y arrugado sobre de papel de manila. Se echó atrás en su sillón de estilo importante, y hurgó en su contenido hasta que encontró lo que buscaba: los datos existentes sobre el Nexus-6.
Un momento de lectura justificó la afirmación de la señorita Marsten: el Nexus-6 poseía efectivamente los dos trillones de elementos, así como la posibilidad de optar entre diez millones de combinaciones de actividad cerebral. En 45 centésimas de segundo un androide equipado con esa estructura cerebral podía asumir una cualquiera entre catorce actitudes de reacción. En otras palabras, los androides con la nueva unidad cerebral Nexus-6 -desde un punto de vista pragmático y nada disparatado- sobrepasaban a una considerable porción de la humanidad, aunque fueran los del nivel inferior. Para bien o para mal. En algunos casos los criados superaban a los amos. Pero había nuevos criterios, por ejemplo el test de empatía de Voigt-Kampff... ()... Se había preguntado, como casi todos en un momento u otro, por qué precisamente los androides se agitaban impotentes al afrontar el test de medida de la empatía. Era obvio que la empatía sólo se encontraba en la comunidad humana...».
Quizás esa tenga que ser una de nuestras preguntas… no tanto que podrá hacer un robot pluscuamperfecto, sino que será lo que nunca será capaz de sustituir en el universo humano. La empatía, la capacidad de sentir apasionadamente y vincularse con entrega generosa a otros, la práctica de las virtudes éticas y la búsqueda del propósito que de sentido pleno a la vida personal o el cuidado y disfrute del cuerpo y la naturaleza. Estas experiencias, y muchas más por descubrir y aprender, tendrán que ocupar gradualmente espacios y tiempos vaciados a medida que la inmersión tecnológica nos libera de asuntos rutinarios.
En el mismo año en el que transcurría la ficción del cineasta británico, OpenAI, un laboratorio de investigación de Inteligencia Artificial estadounidense, lanzaba el sistema Generative Pre-Training (GPT), para generar texto sintético de forma automática y sin supervisión. Aunque, en un principio, la organización apuntó que su uso podría llegar a ser demasiado «peligroso para la humanidad» y no lo abrió al público, poco después, en noviembre de 2019, lanzó la versión completa GPT-2, en esta ocasión abierta al público, al considerar que no era tan arriesgada como habían indicado en un inicio.
Además, de GPT-2, 2019 acogió numerosas innovaciones como la mano robot Dactyl, entrenada para resolver el cubo de Rubik; los sistemas DeepFake, que crean vídeos falsos con solo tomar como entrada una foto; DeepMind (Google), una especie de modelo teórico que predice cómo actúan las personas cuando aprenden de sus errores o Upside Down Reinforcement Learning (UDWL), para transformar el aprendizaje por refuerzo (Reinforcement Learning), un modelo de aprendizaje reforzado con forma de aprendizaje supervisado que permitió al equipo suministrar recompensas por aportación distinto al aprendizaje por refuerzo tradicional.
La velocidad vertiginosa con la que los avances tecnológicos vinculados a la Inteligencia Artificial se han ido sucediendo en los últimos años ha supuesto un incalculable valor para nuestra sociedad en ámbitos como la salud, el cambio climático, la agricultura, la logística y, también, en la educación. Sin embargo, a medida que crece el uso de las aplicaciones de Inteligencia Artificial (IA) también ha ido incrementándose la preocupación, por ejemplo, por la importancia de valores humanos como la equidad, la libertad, la privacidad, la seguridad o la responsabilidad.
Conscientes de la importancia que tiene la IA en la educación, la Unesco publicó, en 2019, el Consenso de Beijing sobre la inteligencia artificial y la educación (1) , el primer documento que propone consejos sobre cómo sacar mayor provecho de las tecnologías de IA con miras a la consecución de la Agenda 2030 de Educación y que incluye las siguientes recomendaciones:
- • Planificar la IA en las políticas educativas para sacar provecho de las posibilidades y hacer frente a los desafíos que conllevan las tecnologías de IA, adoptar enfoques que impliquen la participación de todo el gobierno, intersectoriales y multipartidarios, para de este modo establecer también las prioridades estratégicas locales en aras de alcanzar las metas del ODS 4.
- • Apoyar el desarrollo de nuevos modelos que han sido posible gracias a las tecnologías de IA con miras a suministrar servicios educativos y de formación en donde las ventajas prevalezcan sobre los riesgos, y utilizar las herramientas de IA para proponer sistemas de aprendizaje a lo largo de toda la vida que permitan un aprendizaje personalizado en todo momento, en cualquier parte y para todos.
- • Prever, cuando proceda, la utilización de los datos pertinentes, con miras a estimular la planificación de políticas basadas en los datos empíricos.
- • Velar porque las tecnologías de IA permitan el empoderamiento de los docentes en lugar de remplazarlos y crear programas adecuados con miras a reforzar las capacidades para que los docentes trabajen junto con los sistemas de IA.
- • Preparar a la próxima generación de trabajadores dotándolos de los valores y las competencias necesarias para la vida y el trabajo más pertinentes de la era de la IA.
- • Promover la utilización equitativa e inclusiva de la IA, independientemente de cualquier discapacidad, estatus social o económico, origen étnico o cultural o situación geográfica, haciendo hincapié en la igualdad de género y garantizando la utilización ética, transparente y verificable de los datos educativos.
Más recientemente, ante la necesidad de utilizar la inteligencia artificial éticamente, pero también más segura, la Presidencia del Consejo y los negociadores del Parlamento Europeo alcanzaron un acuerdo provisional sobre la propuesta que establece normas armonizadas sobre Inteligencia Artificial (IA), también denominada Ley de Inteligencia Artificial. El proyecto de Reglamento (2) tiene por objeto garantizar que los sistemas de inteligencia artificial (IA) introducidos en el mercado europeo y utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores de la UE. Con su aprobación, se busca fomentar el desarrollo y la adopción de una IA segura y fiable en todo el mercado único de la UE, tanto por parte de los agentes públicos como de los privados: «La idea principal es regular la IA en la medida que esta tenga la capacidad de dañar a la sociedad, siguiendo un enfoque basado en los riesgos: a mayor riesgo, normas más estrictas».
Dada la importancia y, sobre todo, la controversia que genera la utilización de la IA, en general, y en el ámbito educativo, muy en particular, Cuadernos de Pedagogía ha querido recoger en este este primer número de 2024 el Tema del Mes «La IA ante el espejo de la educación», coordinado por Mariano Fernández Enguita. En su texto introductorio, Fernández Enguita sostiene que: «hay motivos para la ilusión y la preocupación, pero evitemos que una eclipse a otra. Más allá de las viejas promesas de eurekas basados en datos masivos, tutorización inteligente (en realidad, enseñanza ramificada) a partir del registro digital, etc., el salto en la IA, y potencialmente en su uso educativo (IAEd), que suponen los MML, con ChatGPT como buque insignia, obliga a estudiar, diseñar, experimentar y evaluar sin descanso, con prudencia pero con audacia, las nuevas posibilidades...». En este intento de alcanzar un mayor conocimiento del uso de la inteligencia artificial en educación, las páginas de este monográfico cuenta con la participación de Kukulska-Hulme & al.; Fernando Trujillo; José-Luis López-Cuadrado, Mónica Souto-Rico, José Manuel Sánchez-Pena e Israel González-Carrasco; Rubén Comas-Forgas y Cinta Gallent-Torres; Francisco José García-Peñalvo; Linda Castañeda; María Jesús García San Martín, con quienes profundizaremos en distintos aspectos de esa relación.
Quizás, si entendemos de una manera positiva el vínculo existente entre tecnología y educación, podremos hacer nuestras las palabras que Isaac Asimov pronunció durante una entrevista realizada en el programa «El Mundo de la Ideas» de Bill Moyers, en 1988, en la BBC: «Una vez tengamos conexiones de computadoras en cada casa, cada una de estas conectadas a bibliotecas gigantes, donde cualquiera puede formular cualquier pregunta y obtener respuestas, obtener material de referencia, sobre cualquier tema que estés interesado en aprender desde muy pequeño, por más tonto que le parezca a otra persona, en eso en lo que tú estás interesado. Y puedes preguntar y puedes darte cuenta y puedes rastrear eso que te interesa y lo puedes hacer en tu propia casa, a tu propio ritmo, en tu propia dirección, en tu propio tiempo. Entonces todo el mundo disfrutaría aprender. Hoy en día lo que la gente llama aprendizaje es algo impuesto y todo el mundo está obligado a aprender el mismo tema, el mismo día, a la misma velocidad, en el mismo salón de clase. Y todos son personas diferentes, para algunos va muy rápido, para otros muy lento y para algunos en la dirección equivocada, pero darle la oportunidad de que sea complementario a la escuela, no estoy diciendo que debamos abolir la escuela, para que puedan seguir su propia vocación desde el principio». Puede que la visión de una revolución en el aprendizaje de Asimov esté resultando excesivamente optimista, y todas las conexiones que ya han entrado en nuestros hogares y las aulas no nos está llevando a esa personalización de los estímulos para aprender. Decía el futurólogo norteamericano Roy Charles Amara que «nuestra tendencia es sobrestimar los efectos de una tecnología en el corto plazo y subestimar el efecto en el largo plazo». Tendríamos que tenerlo en cuenta en este comienzo de año en pleno debate confuso sobre el uso de los móviles en los colegios, y como acostumbramos en este país, llevando los argumentos a extremos polarizados…
Podemos decir que con este recién estrenado 2024 ha llegado el futuro y hay que elegir no solo qué hacemos en el día a día, sino también qué riesgos debemos asumir para aprender a ser quienes deseamos ser.
¡Feliz Año Nuevo!