Inteligencia Artificial. Sistemas computacionales. Cuarta revolución industrial. Datos. Personalización. Aprendizajes. Regulación. Transparencia. Ética.
Artificial intelligence. Computer systems. Fourth industrial revolution. Data. Personalization. Learnings. Regulation. Transparency. Ethics.
Buenos días, Nuria, encantada de tenerte con nosotros. Siempre inicio mis entrevistas preguntando a mis invitados que me hablen de ellos. ¿Quién es Nuria Oliver?
Soy investigadora, experta en Inteligencia Artificial. Mi motivación e inspiración a lo largo de la vida ha sido y sigue siendo cómo inventar tecnología que ayude a las personas. Para ello creo que primero nos tiene que entender, por eso empecé a trabajar en el modelado computacional del comportamiento humano utilizando inteligencia artificial en los años 90.
La inteligencia artificial ha irrumpido de repente en las escuelas desde el ChatGPT, y se extiende la idea de que la inteligencia artificial es una especie de «ente» que va a acabar con nuestros modelos de evaluación y que no va a dejar que el alumnado haga trabajos. Por favor, ayúdanos a entender qué es
La inteligencia artificial es una disciplina, igual que son la pedagogía o la medicina, que existe desde los años 50, cuando empezaron a construirse los primeros ordenadores. Se incluye dentro de la ingeniería o de la informática. Tiene como objetivo la construcción de sistemas computacionales —es decir sistemas no biológicos— que sean inteligentes tomando como referencia la inteligencia humana. Por eso, desde que surgió la inteligencia artificial, su definición está íntimamente relacionada con la definición de la inteligencia humana. No comprendemos la inteligencia humana en su totalidad y, además, nuestra inteligencia es múltiple y diversa. Tenemos muchas habilidades. Del mismo modo, existen distintas áreas dentro de la inteligencia artificial que intentan replicar alguna de estas destrezas humanas. Por ejemplo, el área dentro de la inteligencia artificial que intenta replicar la capacidad que tenemos para ver, reconocer lo que estamos viendo y reaccionar en consecuencia, sería la visión por ordenador. Las áreas dentro de la inteligencia artificial que intentan replicar la capacidad que tenemos para utilizar el lenguaje serían el reconocimiento del habla y procesamiento del lenguaje natural, etc.
Históricamente los sistemas de inteligencia artificial se han clasificado en tres tipos en función de su nivel de competencia. El primer tipo, que es lo que tenemos hoy en día, se conoce como inteligencia artificial específica. Se trata de sistemas de inteligencia artificial que son muy buenos haciendo una tarea, probablemente mejor que el mejor de los humanos, pero solo saben hacer esa labor. De hecho, no necesariamente «saben» lo que es dicha tarea. Por ejemplo, el mejor jugador de ajedrez del mundo hace décadas que no es un humano sino un programa de inteligencia artificial. Pero, este programa solo sabe de ajedrez y además no sabe realmente lo que es el ajedrez y si cambiásemos las reglas de manera improvisada podría tener dificultades para adaptarse. Toda la inteligencia artificial que tenemos hoy en día es inteligencia artificial específica, porque solo abarca un área muy pequeña de la multiplicidad y complejidad de la inteligencia humana.
El segundo nivel se llama inteligencia artificial general y es la aspiración de la disciplina de la inteligencia artificial. Sería conseguir una inteligencia artificial con el mismo nivel de competencia y de complejidad que la inteligencia humana, incluyendo conceptos tan difíciles de medir o entender como puede ser la autoconciencia. Creo que estamos muy lejos de tener inteligencia artificial general. No sé si como Homo sapiens queremos algún día tener este tipo de inteligencia. Pero lo más importante es entender que no necesitamos inteligencia artificial general para que la inteligencia artificial ya esté aquí y esté transformando profundamente la sociedad aun siendo una inteligencia artificial específica.
Finalmente, hay autores como Nick Bostrom, de la Universidad de Oxford, que se preguntan por qué nos vamos a detener con la inteligencia humana: si la capacidad de computación continúa incrementándose y creciendo exponencialmente, podríamos teóricamente superar computacionalmente a la inteligencia humana. Esto se conoce como la superinteligencia y sería una inteligencia artificial superior a la humana. El momento en el tiempo en el que hipotéticamente superaríamos computacionalmente a la inteligencia humana se conoce como la singularidad. Un concepto que recogen películas y libros de ciencia ficción.
Si creo que estamos lejos de tener inteligencia artificial general, aún más lejos estamos de tener superinteligencia y, de nuevo, no sé si a nuestra especie le interesaría conseguir una superinteligencia porque hay muchos ejemplos en la biología donde los seres más inteligentes no tratan demasiado bien a los seres que no lo son tanto. Por definición, no entendemos la superinteligencia, del mismo modo que una hormiga no entiende nuestra inteligencia.
«Desde que surgió la inteligencia artificial, su definición está íntimamente relacionada con la definición de la inteligencia humana»
Eres doctora por el Media Lab del Instituto Tecnológico de Massachusetts (MIT). Recientemente, visité el MIT y conocí el trabajo que llevan a cabo con el uso de las nuevas tecnologías en el ámbito de la educación... Sin embargo, existe cierta reticencia a su uso porque no se sabe qué va a pasar. ¿Es un riesgo la inteligencia artificial?
En este contexto de la inteligencia artificial, me gusta citar a Marie Curie. Ella dijo que los seres humanos tendemos a temer aquello que no entendemos y que es momento de entender más para así temer menos.
Creo que en la IA es fundamental comunicar, educar, divulgar más, para que se sepa mejor de qué estamos hablando y así se puedan mitigar algunos de los miedos que son consecuencia de titulares sensacionalistas, en muchos casos apocalípticos, alimentados también por visiones mostradas en películas y libros de ciencia ficción.
La IA es una disciplina muy potente porque es trasversal, de propósito general. Es decir, se puede aplicar prácticamente a cualquier sector o ámbito de la sociedad. Por eso, la IA se encuentra en el corazón de la cuarta revolución industrial que es la revolución en la que estamos inmersos y que está contribuyendo a una profunda transformación en todas las áreas: educación, medicina, ciencia, transporte, manufactura, agricultura, comunicación, etc.
La IA tiene un potencial inmenso para el bien. De hecho, la necesitamos para poder abordar los grandes retos del siglo XXI. Pero, dicho esto, es evidente que se trata de una disciplina que no está exenta de limitaciones y que además por este carácter trasversal plantea numerosos retos éticos que es necesario abordar.
«En el tema de la Inteligencia Artificial es fundamental comunicar, educar y divulgar más»
En los últimos meses, quizás por la irrupción de las técnicas de inteligencia artificial generativa y el reto que representa en muchos ámbitos de la sociedad, como son la comunicación, la formación de la opinión pública, la educación, la democracia, etc, hay un sesgo bastante negativo respecto al impacto de la inteligencia artificial y quizás no estamos poniendo en valor suficientemente los beneficios que conlleva su utilización.
Sin la ayuda de la IA no vamos a poder tener una educación personalizada, ni una medicina de precisión, ni energías renovables eficientes, ni modelos precisos del clima o no se va a poder acelerar el descubrimiento de moléculas para tratamientos o vacunas.
Considero que no estamos comunicando con el mismo nivel de intensidad este impacto positivo y, nos estamos quedando con la parte más llamativa y más sensacionalista del impacto negativo que puede tener. En este contexto no podemos olvidar que desde abril de 2021 la Comisión Europea ha estado trabajando en una regulación de la Inteligencia Artificial en Europa, conocida como el AI Act, que tiene como objetivo minimizar los potenciales impactos negativos que pueda tener el despliegue de la IA en Europa y maximizar el impacto positivo que sabemos puede tener y que necesitamos para poder sobrevivir.
Ahora en las escuelas estamos trabajando en que los alumnos aprendan pensamiento computacional. ¿Tenemos que aprender a pensar como las computadoras? ¿Qué tienen que aprender los alumnos en la escuela?
El pensamiento computacional es un término acuñado por Seymour Papert, profesor del Media Lab del Instituto Tecnológico de Massachusetts (MIT) (donde hice mi doctorado y con quien coincidí cuando estaba investigando allí), que hace referencia al desarrollo de cinco competencias básicas que, probablemente, cualquier niño o adolescente del siglo XXI debería desarrollar.
La primera es lo que se denomina pensamiento algorítmico, es decir, aprender a descomponer un problema complejo en pasos que se puedan ir ejecutando de manera secuencial y que permitan resolver ese problema. Nos ayuda a descomponer los problemas para que una máquina pueda ayudarnos a resolverlos. Esa es la manera cómo piensan las máquinas. Aun así, no hacen falta ordenadores para enseñar pensamiento algorítmico, porque una receta de cocina ya es un algoritmo.
La segunda competencia, puede que eventualmente requiera tecnología pero ni siquiera en los primeros cursos, es la programación. El lenguaje de las máquinas igual que el inglés es el lenguaje de la ciencia o de los negocios ahora mismo.
La tercera competencia son los datos. Vivimos en un mundo de datos. El conocimiento que se tiene sobre los datos es muy reducido con las potenciales consecuencias negativas que ello implica a nivel personal, profesional o social.
La cuarta competencia son las redes. Vivimos también en un mundo de redes. Es importante saber que todo lo que hacemos está conectado, incluyendo nuestro propio impacto en el planeta y en el medio ambiente.
Y la quinta competencia está relacionada con el hardware, con el sustrato físico de la tecnología que usamos. Así que se necesita entender en qué consisten los dispositivos que utilizamos y cómo están hechos.
Ese sería una parte del conocimiento que es relevante saber en el siglo XXI. Pero, tan importante como fomentar el pensamiento computacional es desarrollar habilidades que sabemos que han sido y son clave para la prosperidad de la especie humana y que posiblemente no estamos cultivando tanto como en épocas anteriores, como es el pensamiento crítico, la creatividad o todas las habilidades relacionadas con las inteligencias socioemocionales.
Conforme nuestras interacciones de humano a humano están mediadas, cada vez más por la tecnología, es necesario entender qué habilidades no estamos desarrollando ya que perdemos gran parte de la riqueza de las interacciones cara a cara. En consecuencia, podríamos estar perdiendo la capacidad para leer el lenguaje no verbal; para saber tener una conversación a tiempo real, de manera síncrona; para aprender a estar de acuerdo en el desacuerdo, etc. No debemos olvidar que somos una especia social. Por ello, desarrollamos muchas de nuestras habilidades interaccionando cara a cara con otros seres humanos. Si cada vez más, esas interacciones tienen lugar a través de la tecnología y, en muchos casos, a través de mensajes de texto, perdemos gran parte de la sensorialidad, de la riqueza, de la complejidad y de la dificultad de las relaciones humanas; fundamental para conseguir una coexistencia pacífica entre todos y todas y poder colaborar.
Hablabas antes de las posibilidades que ofrece la IA en la personalización que es una de las grandes preocupaciones para muchos de nosotros en las aulas. ¿Qué va a aportar y qué no la IA a los docentes?
En el contexto de la personalización hay muchas oportunidades. Por una parte, está la posibilidad de adaptar la velocidad y la metodología de enseñanza a las peculiaridades de cada niño y cada niña. Sabemos que no todas las personas aprendemos de la misma manera utilizando las mismas estrategias, pero tampoco con la misma velocidad, ni tampoco tenemos las mismas capacidades funcionales.
«En el mundo de la cuarta revolución industrial, probablemente, muchas personas tendrán que reinventarse a lo largo de su vida, y deberán aprender constantemente»
El modelo más tradicional de enseñanza de uno a muchos, por toda esta diversidad de maneras de aprender de los estudiantes, hace que algunos se queden atrás o que otros se aburran. En este ámbito, la IA puede ayudarnos con algún tipo de «tutor artificial» personalizado para cada estudiante en el aula que pueda hacer un seguimiento para saber si se están equivocando o no, si están entendiendo o no , etc. Hay también ejemplos de uso de la inteligencia artificial para la detección precoz de dificultades en el aprendizaje como, por ejemplo, la dislexia u otras dificultades que cuánto más precozmente se detecten más rápidamente se puede intervenir y adaptar la educación.
Con la inteligencia artificial también se puede ayudar, por ejemplo, a compensar limitaciones físicas (visuales, auditivas, motoras) de manera que gracias a la inteligencia artificial dichas limitaciones puedan superarse o mitigarse. Además, está el área de monitorización del aprendizaje para poder proporcionar detalle al profesorado sobre dónde están las debilidades de los distintos alumnos.
Para poder hacer todo esto se necesitan datos sobre qué hacen y cómo progresan los estudiantes. Si no hay datos, poco se puede hacer porque las técnicas predominantes hoy en día de inteligencia artificial se basan en el aprendizaje a través de datos.
Sin embargo, captar datos de lo que hace el alumnado conlleva una serie de retos éticos importantes. Si son datos sobre sus interacciones en un ordenador hay que garantizar la privacidad, el uso adecuado de los mismos (evitando, por ejemplo, que esos datos sean vendidos ni utilizados por terceros para otros fines) y la transparencia. Hay ejemplos en otros países donde tienen sensores o cámaras en el aula para ver si los alumnos se distraen. Aquí las implicaciones éticas son inmensas ya que estamos hablando de datos extremadamente personales de menores.
«No es posible tener personalización sin captar datos y esto conlleva una serie de desafíos y exige medidas que tienen que tomarse para que se respete siempre los derechos de las personas y los valores fundamentales»
No es posible tener personalización sin captar datos y esto conlleva una serie de desafíos y exige medidas que tienen que tomarse para que se respete siempre los derechos de las personas y los valores fundamentales. Por eso, el uso de la IA en el sector de la educación está clasificado en el AI Act como un sector de alto riesgo, porque hay implicaciones éticas muy importantes. Pero, la oportunidad de tener impacto positivo en el contexto educativo es inmensa.
Un área donde la utilización de la IA puede ser interesante es el aprendizaje de idiomas. El nivel de competencia de los sistemas de inteligencia artificial para la traducción simultánea y la generación de habla en cualquier idioma es excelente, de manera que podrían ayudar a cualquier estudiante a aprender idiomas de una manera más personalizada, como de hecho ya se puede hacer con algunas aplicaciones en el móvil.
Asimismo, también está la aportación de la inteligencia artificial en la gestión de la educación para ayudar a hacer horarios óptimos para los docentes y los alumnos en función de las diferentes asignaturas o para hacer una mejor gestión administrativa de los colegios. Incluso, aunque es un área controvertida con serias implicaciones éticas y probablemente cuestionable, se utilizan algoritmos de IA para procesos de admisión en colegios y universidades cuando reciben miles de candidaturas y no tienen suficientes recursos humanos para evaluarlas todas. En estos casos, se utilizan algoritmos para hacer un primer cribado. Pero de nuevo hemos encontrado que esos algoritmos no son perfectos, y pueden discriminar o exacerbar patrones de discriminación que existan en la sociedad. Por eso, todos estos usos están clasificados de alto riesgo en el AI Act y van a tener que estar sometidos a claras exigencias regulatorias de garantías de no discriminación, de transparencia, de preservación de la privacidad, etcétera.
Me gustaría abordar el tema del metaverso. ¿Nos moveremos los profesores y el alumnado en el metaverso?
Sobre este tema escribí para El País el artículo «Menos meta y más con: cinco motivos para cuestionar el metaverso» que puede servir para entender mi opinión al respecto. Soy escéptica hacia el metaverso entendido, en su definición más purista, como un mundo virtual, disponible las 24 horas del día, los siete días de la semana, donde, en teoría, podemos tener una vida paralela o muchas vidas paralelas en el entorno digital.
Evidentemente, hay ejemplos de uso positivo y constructivo de la realidad aumentada o virtual en un contexto educativo porque es verdad que hay ciertos conceptos o temáticas donde visualizar e interaccionar en tres dimensiones lo que se quiere enseñar puede ayudar a entender mejor de qué se está hablando. Pero, desde mi punto de vista, en un momento puntual. Dudo mucho que el ser humano vaya a querer llevar unas gafas de realidad virtual todo el día sin tener interacciones en el mundo físico. Esto nos convertiría en otro Homo, pero no el Homo sapiens.
Somos una especie social que necesita de la interacción física, de humano a humano. Una especie donde sabemos, y vosotros lo sabéis mejor que yo, que aprendemos mejor cuando otros humanos nos enseñan. Estamos muy optimizados biológicamente para aprender de otras personas. Tenemos las neuronas espejo que básicamente están diseñadas para copiar lo que hacen otros humanos. No hay más que observar cómo pasamos en la infancia mucho tiempo observando a otras personas y aprendiendo de ellas. Todo esto son consideraciones que no podemos obviar.
Todas esas reflexiones nos llevan a preguntarnos ¿qué tipo de Homo sapiens queremos ser?, ¿hacia dónde queremos evolucionar? ¿Queremos evolucionar hacia un Homo sapiens que está todo el tiempo colgado de una pantalla sin interaccionar con ninguno otro ser vivo o queremos otro tipo de evolución? Sin mencionar el impacto físico que tiene mirar una pantalla todo el día sin moverte. Impactaría muy negativamente en nuestra visión, en nuestra destreza motora, nuestro sistema cardiovascular, etc…algo que no podemos obviar tampoco.
Y los docentes, ... ¿estamos suficientemente preparados o vamos a poder estar preparados para afrontar la utilización de la IA en la escuela?
La mayor barrera cuando hablaba del pensamiento computacional es la necesaria inversión en la formación del profesorado. Un esfuerzo que sería conveniente realizar porque si no tenemos a docentes preparados para aprovechar de manera constructiva y positiva estos desarrollos tecnológicos e incorporarlos en sus enseñanzas, difícilmente vamos a poder incluirlos en la educación.
Al mismo tiempo sabemos que los seres humanos tenemos inercia, nos suele aterrar lo desconocido y nos sentimos más cómodos en nuestra zona de confort. Esto aplica también al contexto educativo, donde podríamos encontrar una preferencia hacia las materias que siempre hemos enseñado y la forma en que siempre lo hemos hecho. Más allá de lo que es la formación en sí misma, es importante y necesario conseguir inspirar a los profesores y profesoras para que vean estos desarrollos tecnológicos como aliados en sus tareas, como herramientas valiosas que les permitan hacer mejor su trabajo y enseñar mejor. Un reto que lo es tanto como es la enseñanza en sí de este tipo de contenidos nuevos a las nuevas generaciones de niños y niñas.
Otra de las transformaciones que conlleva la cuarta revolución industrial es una transformación del modelo de la segunda revolución industrial relativo al aprendizaje en la vida. Hasta la segunda revolución industrial, hemos tenido un modelo de aprender durante los primeros 18-25 años de vida para luego amortizar todo ese conocimiento el resto de tu vida. Hasta hace algún tiempo, era factible tener una única carrera profesional, incorporarte al mercado laboral y finalizar tus días productivos hasta la jubilación con la misma dedicación profesional. Ese era el mundo de la segunda revolución industrial.
«Actualmente, las dos regiones líderes en IA son Norteamérica y China»
Por el contrario, el mundo de la cuarta revolución industrial es un mundo donde probablemente muchas personas tendrán que reinventarse a lo largo de su vida, donde deberán aprender constantemente. Esta flexibilidad no es algo que sea necesariamente natural en el ser humano. De nuevo, nos sentimos más cómodos y cómodas si tenemos menos incertidumbre, si sabemos que lo que hago hoy va a ser lo mismo que lo que haga dentro de diez años. Tener que gestionar la posibilidad de que lo que estoy aprendiendo hoy a lo mejor dentro de diez años ya no me sirve, porque va a haber profesiones nuevas y habilidades nuevas que voy a tener que adquirir, es muy difícil de asimilar emocionalmente, pero es muy importante. Por eso, enfatizo siempre no sólo la parte del pensamiento computacional sino el desarrollo de habilidades de las inteligencias socioemocionales porque van a ser más importantes posiblemente que lo fueron en el pasado.
Actualmente, ejerces como directora de la Fundación Ellis Alicante. ¿A qué se dedica?
Formamos parte de ELLIS (European Laboratory for Learning and Intelligent Systems), una red científica europea de excelencia en investigación e inteligencia artificial que tiene como objetivo contribuir a que Europa sea competitiva en investigación en el ámbito de la inteligencia artificial. Hablamos continuamente de los importante y estratégica que es, de cómo está en el corazón de la cuarta revolución industrial y, sin embargo, Europa no lidera en el contexto de la IA. Ahora mismo, las dos regiones líderes son Norteamérica, por una parte, y China.
Una de las iniciativas lanzadas por ELLIS Europa es la creación de unidades ELLIS, que son grupos de investigación científica de excelencia y que se comprometen a contribuir a la competitividad europea en IA.
En la primera convocatoria competitiva que se realizó para crear las primeras unidades ELLIS en Europa, en otoño de 2019, con el compromiso, financiación e impulso de la Generalitat Valenciana, presentamos una propuesta para la creación de una unidad ELLIS en Alicante. Esta propuesta fue seleccionada a finales de 2019 por ELLIS Europa para la creación de una unidad ELLIS en Alicante en 2020, siendo una de las primeras 17 unidades ELLIS creadas.
Nuestra unidad en Alicante es singular dentro de la Red ELLIS europea porque es la única que ha sido creada desde cero como fundación de investigación con el objetivo de atraer, retener y educar talento investigador excelente que no vendría de otra manera a nuestro país. Otro elemento diferenciador del ELLIS Alicante es la temática: es la única unidad ELLIS que pone el foco en la investigación de una IA ética, responsable y para el Bien Social. Finalmente, también estamos siendo disruptivos en la manera de hacer investigación y en nuestro modelo de financiación público-privado, apelando a un fomento de la filantropía a la ciencia.
Por una parte, investigamos usos de la IA constructivos y positivos para el bien social como, por ejemplo, el trabajo que desarrollamos durante toda la pandemia para ver de qué manera utilizando datos en IA podíamos ayudar a que la presidencia de la Generalitat valenciana tomase mejores decisiones relativas a la pandemia. Por otro, trabajamos en cómo mitigar el impacto negativo y como abordar los éticos que plantea la IA. Entre otros temas, investigamos la discriminación y la opacidad algorítmicas, la privacidad en los algoritmos de IA o sobre cómo los algoritmos de IA pueden ayudarnos a entender mejor nuestros propios sesgos (sesgos humanos, no algorítmicos) que tienen un impacto negativo en las decisiones que tomamos.
Otras líneas de estudio están dirigidas a investigar el impacto social de los algoritmos de las redes sociales, especialmente en dos áreas: una, en la belleza y los filtros de embellecimiento que son tan populares entre los y las adolescentes en las redes sociales como Tik Tok o Instagram; y otra, el impacto que tienen los algoritmos de IA que moderan el contenido, es decir, aquellos que automáticamente deciden qué contenido se ve o no en las redes sociales y que censuran el arte humano, especialmente, si es arte que muestra un tipo de desnudo porque equiparan el desnudo artístico con la pornografía. Esto tiene profundas consecuencias culturales y sociales porque estamos privando a generaciones enteras de contenido artístico que ha sido y es fundamental en nuestra cultura y expresión creativa. Este es un problema poco estudiado que tiene grandes consecuencias a nivel social y cultural.
Con ELLIS Alicante tenemos una inmensa oportunidad de estar conectados con la élite investigadora europea en Inteligencia Artificial y de contribuir a que el impacto de la Inteligencia Artificial sea positivo. El objetivo es alcanzar lo que denomino una Inteligencia Artificial Socialmente Sostenible, es decir, una Inteligencia Artificial que contribuya a mejorar la calidad de vida de todas las personas del planeta, del resto de seres vivos y del planeta en sí mismo. Les invito que se unan a nuestra causa.
Muchas gracias, Nuria, por darnos a conocer un poquito más el mundo de la Inteligencia Artificial.
A vosotros por invitarme.