Si usted le pregunta a aplicaciones como ChatGPT con qué habilidades esenciales debe educarse un líder efectivo en la era de la Inteligencia Artificial, recibirá una lista de atributos convincentes y pertinentes. La IA se perfila como una herramienta transformadora en el ámbito de la educación superior, desplegando un abanico de posibilidades presentes y futuras, tanto emocionantes como diversas. No obstante, aún son muchas las preguntas que los educadores y las instituciones educativas debemos abordar en 2024 para navegar y capitalizar este paisaje tecnológico en constante evolución.
Debate sobre aplicaciones e incógnitas de la IA
Se dice a menudo que el secreto de una entrada efectiva (o prompt) radica en formular preguntas pertinentes y bien pensadas. Esta premisa cobró especial relevancia durante la preparación de mi ponencia en el marco de la conferencia “Reimagina la educación”, organizada por Quacquarelli Symonds (QS) en Abu Dhabi, donde debatimos sobre las diferentes aplicaciones potenciales de la IA en la educación y las numerosas incógnitas que aún persisten.
¿Puede la IA ser multilingüe, pero monocultural? Dado que más de la mitad del contenido en Internet está en inglés, seguido por el ruso (menos de un 10 %) y solo un pequeño porcentaje en español (5 %), la IA, entrenada con estos datos, corre el riesgo de perpetuar los sesgos culturales presentes en ellos. Algunos autores defienden que ChatGPT es monocultural. Esto me ha llevado a escribir este artículo en español, aunque la conferencia fue en inglés, para destacar la importancia de la diversidad lingüística.
-
¿Estamos dedicando más recursos a enseñar a las máquinas a aprender que a enseñar a los humanos cómo aprender? La evolución de los modelos de lenguaje de gran escala (LLM) ha centrado el debate en cómo alimentar y enseñar a estas “máquinas”, mientras que estamos descuidando el aspecto fundamental de enseñar a los humanos a aprender de manera efectiva y autónoma. Héctor Ruiz Martín, director de la International Science Teaching Foundation, desarrolla en su libro ¿Cómo Aprendemos? la importancia de que el profesor conozca los mecanismos cognitivos y emocionales que rigen nuestro aprendizaje para enseñar al alumno cómo estudiar, aprender y memorizar.
-
Volviendo a la cuestión inicial, ¿cuáles son las competencias que debe poseer un buen líder para hacer un uso adecuado de la IA en el ámbito educativo? Para Diego Alcázar, CEO de IE University, las nuevas herramientas de IA permitirán a los líderes llevar diferentes habilidades a un nivel sin precedentes. Desde mi análisis, un líder en una institución o empresa en la era de la Inteligencia Artificial debería desarrollar al menos cuatro competencias clave:
a) Un conocimiento básico de la IA, entendiendo qué es y cómo funciona. Y lo más difícil, ¿cómo mantenerse actualizado en un entorno tecnológico en constante cambio?
b) Habilidades en la toma de decisiones basada en datos, desarrollando la capacidad para interpretar, utilizar y mitigar sesgos en estos datos. ¿Cómo estar listo para identificar esos sesgos?
c) Un compromiso con el uso ético y responsable de la IA, abordando cuestiones como la privacidad y la equidad. ¿Qué generó tal preocupación sobre las aplicaciones futuras de OpenAI que llevó a la destitución de su CEO?
d) Y por último, el pensamiento crítico para poder identificar las preguntas adecuadas.
¿Cómo de grande es el alcance y las potencialidades de la IA en la educación? La escuela de negocios de la Universidad de Harvard propone una gran variedad de casos donde podría ser muy útil. La IA puede funcionar como un tutor personalizado, adaptándose a los niveles y necesidades individuales de cada estudiante. O también tiene una prometedora capacidad para ofrecer retroalimentación personalizada a los alumnos. Pero también nos enfrentamos a otros dilemas. ¿Sería apropiado que un LLM asignara calificaciones finales en evaluaciones académicas? ¿Cómo identificar cuando es injusto o erróneo? ¿Puede evaluar la creatividad? ¿En qué casos consideraría el estudiante legítima la automatización de sus resultados?
¿Cómo abordamos el plagio y la integridad académica en la era de la IA? Aunque existen aplicaciones con sistemas de detección de plagio, se acompañan de un alto porcentaje de errores, incluyendo falsos positivos y negativos. Esto nos plantea la cuestión de si no sería más efectivo enfocarse en enseñar valores éticos para un uso responsable de la IA. ¿Cómo desarrollamos esa conciencia y modos de actuar para identificar en qué casos es o no es íntegro su uso?
¿Puede el uso de ChatGPT generar una sobredependencia tecnológica o incluso desconfianza en las capacidades del estudiante? Su uso excesivo podría reducir el desarrollo de habilidades de investigación, pensamiento crítico o resolución de problemas. La facilidad y rapidez con la que ChatGPT proporciona información podría también reducir la motivación o la necesidad percibida del estudiante de aprender y retener información. Incluso, podrían sentirse inseguros sobre su creatividad y originalidad una vez acostumbrados a depender de las respuestas generadas por IA. ¿Cómo orientar al estudiante en su uso responsable?
¿Cómo afectan los sesgos en la IA, especialmente en los Modelos de Lenguaje de Gran Escala que se entrenan con grandes conjuntos de datos y determinan patrones? Si estos datos contienen sesgos, como estereotipos de género, racial, o perspectivas culturales y geográficas predominantes, los sesgos se reflejarán en los resultados del modelo. ¿Qué implicaciones tiene entrenar un modelo de IA con datos sesgados? ¿Cómo podemos asegurar que no se pasan por alto perspectivas minoritarias, que aportan diversidad y, en ocasiones, verdades menos reconocidas o escondidas?
¿Cuál es el impacto de las “alucinaciones algorítmicas”, especialmente cuando el contenido generado por modelos de lenguaje de gran escala (LLM) se vuelve cada vez más común en internet? Si este contenido está mal desarrollado, puede generar desinformación en las búsquedas, distorsionando la realidad y creando confusiones. ¿Cómo podemos abordar y mitigar estas distorsiones generadas por la IA para mantener la integridad de la información en línea?
¿Cuáles son las fronteras éticas en el uso de la IA, en cuanto a la privacidad o su impacto político? Al ingresar datos personales en sistemas como los LLM, estos pueden almacenarse y utilizarse en entrenamientos futuros, a menudo sin atribución. Surgen preguntas sobre cómo garantizar la privacidad, qué protecciones existen contra el uso de la IA para difundir contenido inexacto o discriminatorio, cómo se entrenan estas herramientas y qué medidas de seguridad se implementan para proteger a los usuarios de información errónea o interacciones dañinas. Además, surge la cuestión de cómo la IA maneja el copyright y la distribución de contenido.
Ahora que integramos la sostenibilidad de manera transversal en la educación, ¿la Inteligencia Artificial reduce o aumenta nuestra huella ambiental? Al combinarse con tecnologías como el Internet de las Cosas, ofrece potencial para optimizar el consumo de recursos y promover la sostenibilidad, por ejemplo, en una universidad. Sin embargo, el procesamiento de grandes volúmenes de datos que demanda la IA conlleva un incremento en el consumo energético. Para 2040, se espera que las emisiones de la industria de Tecnologías de la Información y Comunicaciones (TIC) en su conjunto alcancen el 14 % de las emisiones globales. La mayoría de esas emisiones procederán de la infraestructura TIC, en particular los centros de datos y las redes de comunicación. Estamos ante un dilema crucial: ¿cómo logramos un equilibrio entre los beneficios de la IA para la sostenibilidad y su impacto ambiental derivado del consumo energético?
La intersección de la IA con la educación ofrece un horizonte de posibilidades infinitas, pero también plantea dilemas que debemos seguir abordando en 2024 con cuidado y reflexión para garantizar un futuro educativo inclusivo, ético y efectivo.