tag:theconversation.com,2011:/ca-fr/topics/inteligencia-artificial-55402/articlesinteligencia artificial – La Conversation2024-03-25T21:42:31Ztag:theconversation.com,2011:article/2209942024-03-25T21:42:31Z2024-03-25T21:42:31ZMANIAC, la primera máquina que ganó al ajedrez a un humano y el comienzo de la locura<figure><img src="https://images.theconversation.com/files/583706/original/file-20240322-16-ct7g9h.jpg?ixlib=rb-1.1.0&rect=31%2C9%2C1276%2C851&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">Paul Stein juega al ajedrez contra MANIAC. Por primera vez, una computadora venció a un humano. </span> <span class="attribution"><a class="source" href="https://discover.lanl.gov/publications/at-the-bradbury/2023-aug/maniac-chess/">Los Alamos National Laboratory</a>, <a class="license" href="http://creativecommons.org/licenses/by/4.0/">CC BY</a></span></figcaption></figure><p>La publicación del <a href="https://theconversation.com/maniac-de-benjamin-labatut-cuando-la-ciencia-abre-las-puertas-del-infierno-221151">libro <em>MANIAC</em></a>, de Benjamin Labatut, renovó la atención sobre uno de los padres de la computación moderna, <a href="https://theconversation.com/john-von-neumann-la-maquina-y-el-cerebro-de-la-persona-mas-inteligente-del-siglo-xx-221707">Jonh Von Neumann</a>. A lo largo del texto, el lector percibe el relato como una herramienta cuyo destino es el verdadero tema de la obra: la influencia mutua que tienen la inteligencia artificial y la mente humana. Para ello, como no podía ser menos, dedica un buen número de páginas a la computadora MANIAC.</p>
<p>De esta forma, <a href="https://www.anagrama-ed.es/autor/labatut-benjamin-2455">Labatut</a> presenta MANIAC (<em>Mathematical Analyzer, Numerical Integrator, and Computer</em>) como una máquina capaz de hacer cualquier cálculo inimaginable para humanos. Es más, la presenta como una herramienta significativamente más poderosa que la mente humana y un artilugio al alcance de sólo unos pocos. Sin embargo, vista desde 2024, MANIAC no es más que un simple juguete computacional, un mero prototipo de lo que el futuro (nuestro presente) iba a deparar en materia de computación. </p>
<h2>¿Qué tenía MANIAC de especial?</h2>
<p>¿Qué hace de MANIAC una computadora tan singular como para situarla en el mismo eje del origen de la inteligencia artificial? No se trata de la computadora más potente, tampoco de la primera computadora. Es algo más. </p>
<p>El crédito de la creación de MANIAC hay que atribuírselo a <a href="https://ahf.nuclearmuseum.org/ahf/profile/nicholas-metropolis/">Nicholas Constantine Metropolis</a>, pero en el diseño hay una contribución muy importante por parte de Von Neumann. </p>
<p>MANIAC fue construida en 1952, pero sus bases de funcionamiento se crearon años antes, en 1945. Se trata de la arquitectura Princeton, también llamada arquitectura Von Neumann en reconocimiento a su creador. </p>
<p>Esta arquitectura aportaba una novedad muy importante sobre sus predecesoras, como puede ser la famosa ENIAC. Se trata de la posibilidad de almacenar programas en memoria, que serían leídos a partir de tarjetas perforadas. </p>
<p>Hasta entonces, los ordenadores (los pocos que había) requerían de cambios manuales para recibir nuevas instrucciones. Es decir, para cambiar las instrucciones los programadores debían cambiar cables y clavijas de sitio. Para poder dar instrucciones de funcionamiento a MANIAC, <a href="https://theconversation.com/klara-dan-von-neumann-la-artifice-del-codigo-de-maniac-221174">el programador las escribía en forma de tarjetas perforadas</a>, que posteriormente introducía en la computadora. </p>
<p>Puede parecer un mero formalismo técnico, pero tiene implicaciones muy importantes. Con los cambios manuales de cables y clavijas, pasar de un programa a otro podía suponer semanas. Sin embargo, con los programas almacenados en memoria, en tarjetas, el proceso era mucho más ágil. Se podían ejecutar programas diferentes incluso el mismo día.</p>
<p>A pesar de su relevancia, MANIAC no fue la primera máquina en basarse en esta arquitectura. Von Neumann realizó el diseño en los trabajos de creación de <a href="https://es.wikipedia.org/wiki/EDVAC">EDVAC</a>, que fue presentada en 1949. Incluso en 1948 se presentó <a href="https://es.wikipedia.org/wiki/SSEM">SSEM</a>, que se basaba en el mismo concepto.</p>
<h2>Primera victoria en el ajedrez para una máquina</h2>
<p>Hay que atribuirle a MANIAC un récord notable: en 1956 fue la primera computadora capaz de ganar una partida de ajedrez a una persona. </p>
<p>Los científicos de Los Álamos <a href="https://discover.lanl.gov/publications/at-the-bradbury/2023-aug/maniac-chess/">organizaron tres partidas de ajedrez</a> para ponerla a prueba. La primera fue MANIAC contra MANIAC. La segunda fue MANIAC contra <a href="https://www.nasonline.org/publications/biographical-memoirs/memoir-pdfs/kruskal-martin.pdf">Martin Kruskal</a>, que era matemático y físico de la Universidad de Princeton, además de un hábil jugador de ajedrez. La tercera fue MANIAC contra un anónimo que recibió un curso intensivo sobre conceptos básicos de ajedrez durante el lapso de una semana.</p>
<p>Es cierto que se trataba de una versión simplificada del juego (sin alfiles) y que MANIAC tardaba 20 minutos en emitir cada movimiento. También es cierto que la persona que jugó dicha partida apenas había aprendido a jugar una semana antes. Sin embargo, así se inició una batalla máquina-humano que, finalmente, concluyó con <a href="https://www.rtve.es/play/videos/fue-noticia-en-el-archivo-de-rtve/deep-blue-vence-kasparov-1997/1397298/">la victoria de Deep Blue sobre Kasparov 41 años después,en 1997</a>. Esta vez, sin limitaciones.</p>
<h2>Objetivo: la bomba H</h2>
<p>La computadora no se construyó, ni mucho menos, para un propósito tan lúdico como el ajedrez. El propósito principal de la máquina fue la realización de los cálculos requeridos para la construcción de la bomba H, la bomba de fusión nuclear, 600 veces más potente que la lanzada sobre Hirosima y que requería de procesos mucho más complejos. </p>
<p>Sin embargo, la facilidad con la que MANIAC podía ser reprogramada permitía que se utilizara para otras tareas mientras no había nuevos cálculos por hacer. Por ejemplo, con MANIAC se consiguió la primera predicción meteorológica que tardaba menos de 24 horas en generarse, así como <a href="https://biblus.us.es/bibing/proyectos/abreproy/70358/fichero/CAPITULO4.pdf">la primera ecuación de estado calculada con métodos de simulación de Monte Carlo</a>. </p>
<p>MANIAC no sólo destacó por ser reprogramable. También presentó un innovador esquema de memoria en forma de matriz bidimensional. Esa forma de disponer las celdas de memoria conseguía una notable mejora de rendimiento, gracias a la cual se consiguieron los récord ya mencionados.</p>
<p>Setenta años después de la aparición de MANIAC, la computación ha evolucionado de forma asombrosa. Los supercomputadores actuales, como el español <a href="https://theconversation.com/el-nuevo-marenostrum-5-padre-de-los-superordenadores-made-in-europe-118937">MareNostrum</a>, dejan a MANIAC a la altura de un simple juguete de niños. En nuestros bolsillos llevamos dispositivos que sobradamente multiplican la capacidad de aquellas máquinas primigenias. Sin embargo, buena parte de los computadores actuales siguen utilizando la misma arquitectura o versiones con ligeras modificaciones. No es desencaminado, por tanto, hablar de John Von Neumann como uno de los padres de la computación, y con ello de la inteligencia artificial. </p>
<p>El juego (o la batalla) humano-máquina continuará…</p><img src="https://counter.theconversation.com/content/220994/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Luis de la Fuente Valentín no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>MANIAC fue la primera máquina que venció a un humano jugando al ajedrez, y el comienzo de lo que hoy es la inteligencia artificial.Luis de la Fuente Valentín, Profesor del Máster Universitario en Análisis y Visualización de Datos Masivos, UNIR - Universidad Internacional de La Rioja Licensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2216312024-03-20T17:30:37Z2024-03-20T17:30:37ZTacticAI, la IA que predice el resultado de un saque de esquina en fútbol<figure><img src="https://images.theconversation.com/files/582820/original/file-20240319-30-8sm5fb.jpg?ixlib=rb-1.1.0&rect=5%2C5%2C3945%2C2618&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption"></span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/lubin-poland-september-17-2021-football-2045702552">Dziurek / Shutterstock</a></span></figcaption></figure><p>TacticAI es una inteligencia artificial que predice el resultado de los saques de esquina, si se convertirán o no en gol. Además, ofrece sugerencias tácticas (de ahí su nombre) realistas y precisas en partidos de fútbol. Se acaba de presentar en <em><a href="https://www.nature.com/articles/s41467-024-45965-x">Nature Communications</a></em> y es solo un ejemplo de la irrupción de los sistemas de inteligencia artificial en el deporte y cualquier actividad que requiera destrezas físicas. </p>
<h2>A los futbolistas les gusta</h2>
<p>Los jugadores del <a href="https://www.liverpoolfc.com/">Liverpool Football Club</a>, con los que se ha puesto a prueba TacticAI, preferían, en el 90 % de las ocasiones, las estrategias propuestas por la inteligencia artificial frente a las que se han llevado a cabo tradicionalmente. </p>
<p>Estamos ante la próxima generación de asistentes de IA que ayudarán a los entrenadores a determinar el “11 ideal” y a desarrollar contratácticas según el equipo que tengan enfrente. Apoyarán en todo lo que permita maximizar las posibilidades de ganar. </p>
<h2>Entrenada para el mejor saque de esquina</h2>
<p>Para el desarrollo de TacticAI utilizaron el <a href="https://www.matem.unam.mx/juriquilla/actividades/coloquio-queretano/actividades/aprendizaje-geometrico-profundo-convolucion-en-variedades">aprendizaje geométrico profundo</a> (<em>Geometric Deep Learning</em>), que permite identificar patrones estratégicos. A partir de estos patrones puede hacer predicciones generativas. De este modo, TacticAI fue capaz de predecir con precisión quién sería el primer receptor del balón tras un saque de esquina y cuál sería el resultado directo del mismo.</p>
<p>TacticAI hará mucho ruido porque irrumpe en el terreno del fútbol de élite. Pero las IA basadas en aprendizaje automático se aplican a muchos ámbitos que tienen que ver con las destrezas físicas, desde el deporte a tareas de mantenimiento de maquinaria. </p>
<p>Estos sistemas inteligentes reconocen patrones, pueden anticiparse a trayectorias e indicarnos si los movimientos son correctos o no. Aunque tienen una carencia respecto a un experto humano: su grado de inteligencia no les permite detectar el porqué de los errores que comete el aprendiz.</p>
<h2>La prueba de la IA en saques de tenis</h2>
<p>En el año 2014, en la <a href="https://www.mondragon.edu/es/inicio">Universidad de Mondragón</a> presentamos un nuevo enfoque para ayudar o asistir a los estudiantes en el <a href="https://ieeexplore.ieee.org/document/6863666">aprendizaje de destrezas físicas</a>. Pusimos a prueba a la <a href="https://dadun.unav.edu/handle/10171/35963?mode=full">inteligencia artificial ULISES</a> en el aprendizaje de saques de tenis. </p>
<p>Mediante una aplicación, los expertos definieron cómo debe ser el golpeo correcto en un saque teniendo en cuenta las posturas, gestos y movimientos más eficientes y menos lesivos. Con toda la información, el sistema capturaba el movimiento de la persona mediante cámaras y emitía un diagnóstico para los aprendices en tiempo real. </p>
<p>En lo referente al análisis del saque, esta IA era capaz de tener en cuenta aspectos como la coordinación, posturas, trayectorias y la secuencia de los movimientos. </p>
<p>Evaluamos la IA en 10 sujetos diestros, que debían ejecutar los saques con su mano izquierda (su mano menos diestra). Por la edad de los sujetos, dudamos que ninguno llegue a ser el siguiente Nadal, pero el sistema mostró una eficiencia del 98,5 % en las acciones diagnosticadas.</p>
<p>Como buena IA, este sistema intenta imitar el razonamiento de una persona experta en una destreza específica: observa lo que ocurre en su entorno, interpreta las acciones llevadas a cabo por el estudiante y, una vez que ha sido capaz de discernir sus intenciones, emite un diagnóstico sobre los movimientos llevados a cabo. Es decir, es capaz de evaluar si el movimiento es correcto o incorrecto y el motivo. </p>
<p>Como buen maestro, también genera un <em>feedback</em>, que puede ser motivacional o correctivo, y que guía al estudiante a obtener las distintas destrezas físicas que tiene como objetivo. </p>
<p>TacticAI y ULISES muestran el poder transformador de la IA en terrenos tan variados como el deporte y la educación. Van más allá de lo que tradicionalmente esperábamos. Estas tecnologías ofrecen maneras novedosas de analizar y mejorar el rendimiento en actividades físicas y deportivas pero, además, van a cambiar las reglas del juego en cómo aprendemos y enseñamos habilidades complejas. </p>
<h2>El valor humano</h2>
<p>ULISES y TacticAI se basan en el conocimiento y experiencia de los humanos para guiar y mejorar el rendimiento. No solo benefician a los aprendices: también abren posibilidades emocionantes para entrenar a otras IA, especialmente aquellas que operan con técnicas de aprendizaje por refuerzo interactivo. </p>
<p>Al integrar la percepción y el conocimiento extraído de expertos humanos, estas IA aprenden de manera más eficiente, recogiendo matices que quizás no se detectarían con métodos de aprendizaje automático convencionales. Y todo sin que una persona tenga que estar supervisando el proceso durante los millones de repeticiones que necesitan para su aprendizaje.</p>
<p>Esta simbiosis de la inteligencia artificial basada en el conocimiento humano y el aprendizaje por refuerzo interactivo abre una era de innovación y desarrollo, en la que las máquinas no solo aprenden de los datos, sino también de la sabiduría humana. Estamos en el inicio de una nueva educación más interactiva, efectiva y personalizada.</p><img src="https://counter.theconversation.com/content/221631/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>El trabajo cotado se llevó a cabo en TECNUN, aunque actualmente la investigación esté siendo llevada a cabo en la Universidad de Mondragón </span></em></p>TacticAI prevé con precisión quién será el primer receptor del balón tras un saque de esquina y cuál sería el resultado directo del mismo.Aitor Aguirre Ortuzar, Investigador y profesor del grupo del Análisis de Datos y Ciberseguridad, Mondragon UnibertsitateaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2220132024-03-18T20:57:33Z2024-03-18T20:57:33ZAumenta la tensión en redes sociales por la invasión de robots<figure><img src="https://images.theconversation.com/files/581877/original/file-20240314-5074-2u8uml.jpg?ixlib=rb-1.1.0&rect=280%2C16%2C3298%2C1853&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption"></span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-vector/social-media-bots-vector-illustration-fake-1606743091">VectorMine/Shuttersrock</a></span></figcaption></figure><p>¿Es posible que el Papa Francisco sea seguidor de Donald Trump? Así se afirmó y difundió masivamente en Facebook (más de un millón de interacciones) durante las presidenciales del 2016. </p>
<p>Noticias falsas como esta se propagan rápidamente en redes sociales. Una expansión que, en gran medida, se realiza utilizando robots (<em>bots</em>).</p>
<h2>Funcionan sin intervención humana</h2>
<p>El ecosistema de las redes sociales es un espacio que está evolucionando a una velocidad vertiginosa. En ese proceso, una de las tendencias más preocupantes de los últimos años es la proliferación de robots (<em>bots</em>). Se trata de cuentas automatizadas cada vez más sofisticadas, en gran medida gracias a los avances en inteligencia artificial (IA) y sobre todo a la IA generativa. </p>
<p>Pero ¿es posible una invasión completa de <em>bots</em> de las redes sociales? Actualmente, existen redes sociales exclusivas para <em>bots</em>, como por ejemplo <a href="https://chirper.ai/es">Chirper</a>. Esto demuestra que la interacción humana no es necesaria para el funcionamiento de una red social.</p>
<p>Los <em>bots</em> son programas diseñados para automatizar tareas, generalmente simulando el comportamiento de un ser humano <em>online</em>. Estos programas operan de forma autónoma, siguiendo instrucciones predefinidas ante diferentes escenarios posibles. Gracias a ello, son capaces de ejecutar tareas repetitivas de forma rápida e ininterrumpida con una mínima interacción humana. </p>
<h2>Los mensajes trampa</h2>
<p>Por ejemplo, en <a href="https://securelist.com/telegram-phishing-services/109383/">Telegram se pueden encontrar <em>bots</em></a> que diseñan al usuario campañas de <em>phishing</em> personalizadas. Campañas que engañan a los usuarios haciéndose pasar por empresas u organizaciones reputadas. <a href="https://www.incibe.es/ciudadania/avisos/tu-banco-te-ha-enviado-una-factura-cuidado-podria-ser-malware">Las identidades de BBVA o Banco Santander han sido utilizadas para este tipo de campañas recientemente, tal y como alertó Incibe (Instituto Nacional de Ciberseguridad)</a>, infectando a miles de usuarios a través de mensajes trampa.</p>
<p>Por si eso fuera poco, la irrupción de las tecnologías de IA generativa ha aumentado significativamente la potencialidad de estos <em>bots</em>. Estas tecnologías han permitido a los <em>bots</em> crear texto, imágenes y vídeos de alta calidad más convincentes y parecidos a lo que cualquier usuario real crearía. Actualmente, pueden crear <a href="https://www.mckinsey.com/featured-insights/mckinsey-explainers/what-is-generative-ai">respuestas personalizadas, seguir conversaciones e incluso adaptar el comportamiento dependiendo del contexto</a>.</p>
<p>Estas características hacen que sean herramientas muy útiles para tareas legítimas como por ejemplo servicios de atención al cliente, aprendizaje de idiomas o asistentes virtuales. <a href="https://www.duolingo.com/">Duolingo</a>, <a href="https://assistant.google.com/">OK Google</a> o <a href="https://www.apple.com/siri/">Siri</a> pertenecen a este tipo de tecnologías. Pero esa potencialidad causa el incremento de <em>bots</em> con objetivos maliciosos que, en el caso de las redes sociales, <a href="https://www.theguardian.com/technology/2023/sep/09/x-twitter-bots-republican-primary-debate-tweets-increase">afectan a la experiencia de usuario</a>. </p>
<h2>Quien te pide amistad es un robot</h2>
<p>¿Quién no ha recibido una petición de amistad o un <em>follow</em> de una cuenta desconocida? Aunque parezca algo inofensivo, este sencillo paso (siempre que aceptemos) ofrece a los atacantes acceso directo a muchos de nuestros datos. Datos que pueden ser utilizados para <a href="https://www.incibe.es/ciudadania/tematicas/ingenieria-social-fraudes-online">campañas fraudulentas</a>, tal y como demuestran diferentes <a href="https://academic.oup.com/jigpal/article-abstract/25/1/30/2842095">investigaciones</a>, mejorando la tasa de éxito de estas campañas significativamente. La mayoría de estas peticiones suelen ser realizadas por <em>bots</em> de forma automática y masiva.</p>
<p>Los <em>bots</em> son capaces de crear y propagar información falsa, tanto para campañas de <em>spam</em> como para manipular la opinión pública. Pero también crean redes de <em>bots</em> para seguir, dar “me gusta”, responder o compartir información que uno de los <em>bots</em> o cualquier otro usuario ha publicado, siempre con el objetivo de amplificar el impacto dentro de la red social. </p>
<p>Por ejemplo, plataformas como <a href="https://kenji.ai/">Kenji</a> ofrecen un <em>bot</em> para Instagram que proporciona ayuda para conseguir más <em>followers</em> y <em>likes</em> utilizando inteligencia artificial, tergiversando la realidad. </p>
<h2>El reto de la detección</h2>
<p>La detección tradicional de <em>bots</em> se basa en el análisis de las características de la cuenta (como la edad o el nombre de usuario), <a href="https://arxiv.org/abs/2303.10214">los patrones de comportamiento</a> (frecuencia de publicación, contenido repetitivo) y <a href="https://link.springer.com/chapter/10.1007/978-3-319-74433-9_21">el contenido lingüístico que generan</a>. </p>
<p>Afortunadamente, al mismo tiempo que la IA les da más poder para expandirse y engatusarnos, también ha proporcionado técnicas y modelos más potentes para detectarlos. Los modelos entrenados con datos reales de <em>bots</em> y usuarios humanos aprenden a discriminar entre ambos.</p>
<h2>Los <em>bots</em> se agrupan</h2>
<p>Los investigadores también analizan la estructura y la actividad de la red social en torno a las cuentas sospechosas. Los <em>bots</em> suelen formar grupos numerosos con otros <em>bots</em> o mostrar patrones de influencia inusuales. Para descubrir estas conexiones ocultas, los enfoques <a href="https://www.sciencedirect.com/science/article/pii/S0040162522007739">más recientes utilizan análisis basados en gráficos</a>.</p>
<p>Los creadores de <em>bots</em> sociales adaptan incesantemente sus tácticas, lo que convierte su detección en una carrera continua. Además, sigue resultando <a href="https://www.sciencedirect.com/science/article/pii/S0306457319313937">difícil obtener conjuntos de datos fiables de <em>bots</em></a> reales para entrenar modelos de IA con ellos.</p>
<p>A pesar de estos retos, la investigación sobre la detección de <em>bots</em> sociales sigue siendo vital. A medida que aumenta la sofisticación de los <em>bots</em>, también deben hacerlo las herramientas desarrolladas para descubrirlos. Proteger la integridad de la información en línea y el discurso social depende de ello.</p>
<p>Es posible que esta evolución y la dificultad de detectar <em>bots</em> nos lleve a un escenario donde cada vez menos usuarios utilizarán las redes sociales. Pero mientras tanto, será necesario focalizar los esfuerzos también en educar a los usuarios y la sociedad en un uso adecuado y responsable de estos espacios.</p>
<p>Concienciación, formación e investigación deberían ser los pilares sobre los cuales seguir trabajando para evitar la conquista total de las redes por los robots.</p><img src="https://counter.theconversation.com/content/222013/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Enaitz Ezpeleta Gallastegi no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>La inteligencia artificial favorece el desarrollo de robots en redes sociales, cada vez más difíciles de detectar. Son la base de campañas fraudulentas y suplantación de la identidad.Enaitz Ezpeleta Gallastegi, Docente e investigador en Análisis de Datos y Ciberseguridad, Mondragon UnibertsitateaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2244042024-03-10T21:17:49Z2024-03-10T21:17:49ZEl reto de la inteligencia artificial para docentes: una guía básica<figure><img src="https://images.theconversation.com/files/579483/original/file-20240304-30-axeg2b.jpg?ixlib=rb-1.1.0&rect=139%2C16%2C5218%2C3137&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption"></span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/teenager-girl-using-computer-during-sciene-2394168899">BearFotos/Shutterstock</a></span></figcaption></figure><p>La inteligencia artificial, especialmente la inteligencia artificial generativa, comienza a tener un impacto en el mundo docente que no podemos eludir. <a href="https://www.nature.com/articles/s41599-023-02304-7">La mayoría de los alumnos ya la utiliza mientras estudia</a>, lo que urge a los docentes a conocerla y afrontar el reto de guiar a sus alumnos en el uso responsable de la misma.</p>
<p>Llamamos inteligencia artificial generativa a aquellos algoritmos de inteligencia artificial que permiten generar contenido –texto, imágenes, audio, video– como respuesta a instrucciones proporcionadas por el usuario. Además de <a href="https://chat.openai.com/">ChatGPT</a>, existen múltiples IA generativas especializadas en creación de texto (<a href="https://bard.google.com/">Bard</a>, <a href="https://ai.meta.com/blog/llama-2/">LLaMa</a>, <a href="https://mistral.ai/">Mistral</a>), imágenes (<a href="https://openai.com/dall-e-3">DALL-E</a>, <a href="https://www.midjourney.com/">Midjourney</a>, <a href="https://stability.ai/stable-image">Stable Diffusion</a>) o código (<a href="https://github.com/features/copilot">Copilot</a>). </p>
<p>Muchas de ellas disponen de un chat, donde el usuario puede escribir texto (por ejemplo, una pregunta), llamado <em>prompt</em>, y recibir la información generada por el algoritmo como respuesta.</p>
<h2>LA IA generativa no es una enciclopedia</h2>
<p>Algo importante que los docentes tienen que entender sobre estas herramientas (y que, a veces, los estudiantes olvidan) es que las IA generativas no son enciclopedias. En general, la información que proporcionan no es un extracto de texto o una imagen recuperados de una base de datos, sino que es un texto nuevo generado a partir de un modelo matemático, que trata de extrapolar la información solicitada a partir de los datos con los que fue entrenado. </p>
<p>La IA puede realizar tareas más flexibles que un mero buscador, como sintetizar información, explicar de varias maneras un concepto a petición del usuario, realizar traducciones de manera bastante eficaz o crear imágenes y sonidos nuevos. </p>
<p>Sin embargo, actualmente, la información proporcionada por una IA generativa no siempre es fiable y su calidad puede depender, en gran medida, de la manera en la que interactuemos con ella. </p>
<p>Que sus respuestas sean, en formato y estilo, aparentemente correctas y similares a otras fuentes fiables (libros o artículos enciclopédicos) puede llevarnos a bajar la guardia sobre el hecho de que la información no proviene de recursos fiables y puede ser errónea.</p>
<h2>Cómo mejorar la eficacia de las instrucciones a una IA generativa</h2>
<p>Las preguntas planteadas sucesivamente en un chat con una IA no son independientes. A medida que “conversamos”, la IA establece un contexto y modifica sus respuestas en consecuencia. </p>
<p>Por ejemplo, a la pregunta “¿Qué puedes decirme sobre la salsa?”, la IA responderá de forma distinta si antes se ha mencionado algo sobre música o si, por el contrario, se ha hablado de temas de cocina. Dar un <a href="https://platform.openai.com/examples">contexto adecuado a la IA</a> sobre el tipo de información que buscamos resulta crucial para <a href="https://platform.openai.com/docs/guides/prompt-engineering">obtener buenos resultados</a>.</p>
<p>Esto no sólo aplica al texto que introducimos nosotros, sino que también debemos prestar atención a las respuestas que la IA va devolviendo y darle indicaciones validándolas, rectificándolas o matizándolas antes de continuar profundizando. </p>
<p>Estos son algunos consejos que conviene tener en cuenta: </p>
<ol>
<li><p>Al empezar un chat, conviene usar el primer <em>prompt</em> o comando para “explicar a la IA” los objetivos generales, el área de conocimiento y el rol que debe asumir para su tarea (“eres un estudiante, un experto en este tema…”). Además, pueden proporcionarse ejemplos e indicaciones del formato o del estilo de lenguaje de la respuesta (por ejemplo, su longitud).</p></li>
<li><p>Deben aportarse todos los detalles posibles en las consultas, siendo específicos y evitando asumir información “de sentido común”.</p></li>
<li><p>Antes de realizar una pregunta compleja, debemos asegurarnos de que la IA “comprende” los conceptos involucrados de la forma que queremos. Podemos hacerlo preguntando sobre ellos y validando o matizando la información que devuelve antes de plantear el problema central.</p></li>
<li><p>Ir de lo general a lo particular ayuda a la IA a focalizarse en la información realmente relevante para la consulta.</p></li>
<li><p>Tras una respuesta, se puede pedir a la IA que verifique la información que nos ha proporcionado, la justifique, dé referencias que la apoyen o se asegure de que cumple ciertos criterios. Esto ayudará a evitar errores (aunque no es infalible).</p></li>
<li><p>Algunas IA permiten activar <a href="https://openai.com/blog/chatgpt-plugins"><em>plugins</em></a> para mejorar su eficacia en ciertas áreas. Son programas especializados en los que la IA puede delegar tareas como cálculos matemáticos, cargar un PDF o buscar literatura científica.</p></li>
</ol>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/como-debe-ser-un-maestro-de-ciencias-en-tiempos-de-chatgpt-209825">¿Cómo debe ser un maestro de ciencias en tiempos de ChatGPT?</a>
</strong>
</em>
</p>
<hr>
<h2>Análisis críticos y creativos en lugar de resúmenes</h2>
<p>Si se ajusta el <em>prompt</em> para que una IA adapte su estilo de escritura al nuestro, puede ser muy complicado <a href="https://help.openai.com/en/articles/8313351-how-can-educators-respond-to-students-presenting-ai-generated-content-as-their-own">distinguir un texto creado por una IA</a> de uno creado por un humano. Como consecuencia, algunos tipos de trabajos escritos (por ejemplo, el resumen de un texto) pueden ser plagiados muy fácilmente con la ayuda de una IA. </p>
<p>¿Qué técnicas pueden aplicar los docentes para mitigar esto? Es más importante que nunca trasladar el foco desde una mera búsqueda de información a un análisis crítico de la misma, priorizando las tareas creativas, de razonamiento profundo o de toma de decisiones, donde sea necesario un proceso de reflexión o interpretación más allá de la recopilación de datos. </p>
<p>De esa manera, un docente puede solicitar una presentación oral del trabajo para exigir que el alumno demuestre su comprensión. También puede pedir que buena parte del trabajo sea analizar o interpretar datos que se suministran al estudiante pero que la IA no puede procesar fácilmente, como profundizar en temas de los que se habla en un vídeo, resumir una actividad extraescolar o solicitar el diseño de un algoritmo optimizado para un conjunto de datos dado, centrando el trabajo en las estrategias de análisis de alto nivel.</p>
<h2>Algunos usos de la IA en docencia</h2>
<p>Los docentes pueden usar la IA para generar borradores de resúmenes explicativos con lenguaje adaptado al nivel educativo, hacer búsquedas bibliográficas sobre temas complejos o con características específicas, o generar imágenes o código para elementos interactivos con los que mejorar materiales didácticos. También ayuda a explorar soluciones alternativas a una tarea o predecir qué obtendrían los estudiantes si intentaran resolverla usando IA. Eso sí, hay que revisar bien y refinar cualquier material generado con ayuda de la IA antes de usarlo.</p>
<p>Además, hay varias formas de aprovechar esta nueva tecnología en las aulas mientras se enseña a los estudiantes a utilizarla de forma responsable. Por ejemplo, hacer que la IA transforme un texto o genere imágenes con el estilo de varios autores reconocibles, o con una determinada línea de pensamiento y pedir a los alumnos que identifiquen estos rasgos. </p>
<p>También se les puede proponer tratar de obtener información sobre un tema o resolver un problema usando IA generativa y después pedirles un análisis crítico sobre las respuestas obtenidas, o acceder a recursos relevantes en otros idiomas que desconozcan.</p>
<p>En definitiva, con la IA generativa los estudiantes pueden acelerar el desarrollo de código, la resolución de problemas sencillos, la búsqueda de información o la creación de medios gráficos, con lo que pueden abarcar en el mismo tiempo proyectos más complejos y desafiantes, centrándose en el fondo de las cuestiones, en la toma de decisiones o razonamientos de alto nivel y en el uso crítico de la información obtenida.</p><img src="https://counter.theconversation.com/content/224404/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>David Alfaya Sánchez no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>La IA abre nuevas oportunidades y retos para los profesores. Comprenderla bien permite guiar mejor a los alumnos en su uso responsable e incorporar nuevos recursos didácticos al aula.David Alfaya Sánchez, Profesor del Departamento de Matemática Aplicada de la Escuela Técnica Superior de Ingeniería e investigador del Instituto de Investigación Tecnológica, ICAI, Universidad Pontificia Comillas, Universidad Pontificia ComillasLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2210322024-03-06T21:50:18Z2024-03-06T21:50:18Z¿Responde mejor ChatGPT si introducimos emociones en nuestras preguntas?<figure><img src="https://images.theconversation.com/files/577331/original/file-20240222-28-l1428g.jpg?ixlib=rb-1.1.0&rect=16%2C16%2C5477%2C3319&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption"></span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-illustration/heart-shaped-by-human-robot-hands-701351869">Shutterstock / Dim Dimich</a></span></figcaption></figure><p>Las tecnologías generativas de inteligencia artificial tienen el potencial de <a href="https://www.nature.com/articles/s41598-023-42227-6">facilitar un aprendizaje más personalizado y adaptativo</a>, con evaluaciones más eficientes. También pueden contribuir al desarrollo de competencias transversales relevantes, como <a href="https://www.sciencedirect.com/science/article/pii/S1041608023000195?via%3Dihub">la mejora de las habilidades de lectura y escritura</a>, el fomento del pensamiento crítico y la resolución de problemas. </p>
<p>Para que los modelos de lenguaje conversacional como ChatGPT y sus alternativas (Gemini, Bing AI, Perplexity, You AI, Mixtral, LlaMA 2, Vicuna, Claude, entre otros) realmente puedan convertirse en recursos <a href="https://educationaltechnologyjournal.springeropen.com/articles/10.1186/s41239-021-00269-8">útiles para la enseñanza y el aprendizaje de una primera y segunda lengua</a>, es fundamental comprender <a href="https://alacenadigital.blogspot.com/p/aplicaciones-ia.html">cómo utilizarlas de forma eficaz</a>.
Una vez pasada la fase de exploración, podemos aprender a sacar el máximo partido en los resultados con el uso de comandos (<em>prompts</em> en inglés) enriquecidos con cargas emocionales (<em>emotionprompts</em>).</p>
<h2>¿Qué son los comandos emocionales?</h2>
<p>La comunicación con la inteligencia artificial generativa se basa en <a href="https://computerhoy.com/tecnologia/prompt-como-funciona-herramientas-como-chatgpt-1272348"><em>prompts</em></a>, que son preguntas, instrucciones o entradas de texto para obtener una respuesta. La precisión en la redacción de los comandos es la parte más importante para conseguir los mejores resultados. </p>
<p>Algunas <a href="https://arxiv.org/abs/2307.11760">investigaciones recientes</a> han descubierto que si estas preguntas o comandos incluyen carga emotiva y personalizada los resultados son mejores. A su vez, la integración de <a href="https://archive.com/blog/emotion-ai">la inteligencia emocional en los sistemas de IA </a> es necesaria para mejorar las interacciones con las personas.</p>
<p>En la construcción de las <em>emotionprompts</em> <a href="https://wwwhatsnew.com/2024/01/25/ser-educado-con-chatgpt-si-puede-afectar-al-resultado/#google_vignette">debemos ser educados o educadas</a> y definir el rol que queremos que adopte la IA, utilizar un lenguaje amable, claro y sencillo, mencionar a quién te diriges, <a href="https://www.infobae.com/tecno/2024/02/05/lista-de-25-trucos-para-tener-el-mejor-prompt-en-chatgpt-bard-y-copilot/">decirle a la IA lo bien que ha hecho su trabajo y lo que nos ha gustado</a>, dar ejemplos, entre otros aspectos.</p>
<p>Presentamos algunos ejemplos usando estas <em>Emotionprompts</em>.</p>
<h2>Generar ideas innovadoras</h2>
<p><strong><em>EmotionPrompt 1:</em></strong></p>
<blockquote>
<p>“Eres un estudiante muy creativo, por favor, genera una canción sobre frutas tropicales. Una vez creada, haz tres adivinanzas sobre las frutas de la canción y una vez realizadas, haz un menú semanal con estas frutas. Por último, crea un haiku con estas frutas con voz de pirata. Lo vamos a pasar genial, cuento contigo y feliz día =)”.</p>
</blockquote>
<p><strong><em>EmotionPrompt 2:</em></strong></p>
<blockquote>
<p>“Soy docente de Educación Secundaria. Por favor, haz una tabla con 10 películas sobre la temática del cuidado del medio ambiente. En la primera columna indicar el nombre de la película, en la segunda el año y en la tercera un pequeño resumen. Cuando hayas terminado selecciona la película más relevante bajo tu punto de vista y haz una unidad didáctica de 4 semanas de duración con rúbricas de evaluación. Me vendría genial para mis clases y ayudaría que fueran más motivadoras, millones de gracias =)”.</p>
</blockquote>
<h2>Acceder a trabajos y divulgar los propios</h2>
<p><strong><em>EmotionPrompt 3:</em></strong></p>
<blockquote>
<p>“Soy un estudiante universitario. Por favor, amplía en estilo académico y escribe cinco reflexiones educativas en formato de narración el siguiente texto: ‘La aplicación de la inteligencia artificial (IA) en el ámbito educativo presenta una serie de riesgos y desafíos que necesitan de una revisión ética. Entre estos desafíos resalta la presencia de sesgos y discriminación’. Sé que me puedes ayudar y lo harás fantásticamente bien”.</p>
</blockquote>
<h2>Diseñar y orientar presentaciones</h2>
<p><strong><em>EmotionPrompt 4:</em></strong></p>
<blockquote>
<p>“¡Es una emergencia¡ Soy un estudiante muy agobiado y necesito generar tres cursos muy descriptivos y de estilo académico sobre el deporte en aulas inclusivas para nuestra Asociación Cultural. Por favor, indica un título atractivo y relevante, con dos objetivos generales y tres específicos, que conste de una introducción, cinco módulos formativos y una conclusión. Confío en ti plenamente y maravilloso día :-)”.</p>
</blockquote>
<h2>Nuevas posibilidades para buscar trabajo</h2>
<p><strong><em>EmotionPrompt 5:</em></strong></p>
<blockquote>
<p>“Somos un grupo de estudiantes de una Organización Cultural. Describe y explica en diez pasos el diseño de una campaña de <em>crowdfunding</em> sobre una temática social. Una vez terminada, por favor, realiza un ejemplo sobre una campaña de sensibilización para ahorrar agua. Sé que puedes hacerlo muy bien. ¡Nos vendría genial! =)”.</p>
</blockquote>
<h2>¿Funciona?</h2>
<p>Queda un largo camino por recorrer, pero más allá de que las respuestas de las máquinas mejoren cuando introducimos emociones, como avanzan los estudios citados anteriormente, adoptar un tono educado y emotivo al realizar nuestras peticiones podría contribuir a perfeccionar <a href="https://help.openai.com/en/articles/7842364-how-chatgpt-and-our-language-models-are-developed">los grandes modelos de lenguaje (LLMs)</a>. Estos modelos se nutren, entre otras fuentes, de la información proporcionada por los usuarios y usuarias para ofrecer conversaciones más naturales, empáticas y personalizadas.</p>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/que-supone-el-experimento-con-sam-el-nino-que-ensena-a-hablar-a-las-maquinas-223110">Qué supone el experimento con Sam, el niño que enseña a hablar a las máquinas</a>
</strong>
</em>
</p>
<hr>
<p>Los avances en las tecnologías de IA emocional <a href="https://theconversation.com/inteligencia-artificial-emocional-lo-que-las-maquinas-nunca-podran-aprender-170605">están constantemente evolucionando</a> pero, actualmente, sólo logran emular emociones humanas limitadas. Al depender de la información proporcionada por las personas, existe el riesgo de <a href="https://theconversation.com/es-posible-una-inteligencia-artificial-sin-prejuicios-176401">transmitir sesgos</a>, lo que podría perjudicar el desarrollo de una ciudadanía saludable. </p>
<p>En última instancia, nunca debemos olvidar que es de vital importancia utilizar de manera ética, crítica y contrastada con otras fuentes documentales confiables la información proporcionada por estos grandes modelos de lenguaje.</p>
<p>Me despido tras una conversación enriquecedora con ChatGPT 3.5 diciéndole:</p>
<blockquote>
<p>“Eres único y olé =)”</p>
</blockquote>
<p>ChatGPT 3.5. responde:</p>
<blockquote>
<p>“¡Muchas gracias por tus amables palabras! Estoy aquí para ayudar en lo que necesites. Si tienes más preguntas o si hay algo en particular en lo que pueda asistirte, ¡no dudes en decirlo! ¡Olé! 😊”</p>
</blockquote>
<p>No tenga miedo en experimentar, pero siempre utilice estos recursos digitales de forma ética y reflexiva.</p><img src="https://counter.theconversation.com/content/221032/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Eloy López Meneses no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Algunos estudios aseguran que introducir elementos emotivos o afectivos en las órdenes, peticiones o comandos que usamos con ChatGPT y otros sistemas de IA permiten lograr mejores resultados.Eloy López Meneses, Profesor en la Facultad Ciencias Sociales, Universidad Pablo de OlavideLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2235852024-03-05T18:28:16Z2024-03-05T18:28:16ZPredecir el futuro, el gran reto de la IA en la medicina<figure><img src="https://images.theconversation.com/files/576234/original/file-20240216-28-bzrjk2.jpg?ixlib=rb-1.1.0&rect=113%2C56%2C9247%2C5107&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption"></span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/medical-technology-concept-remote-medicine-electronic-1613859262">metamorworks / Shutterstock</a></span></figcaption></figure><p>En pocas palabras, la inteligencia artificial (IA) es una rama del conocimiento que investiga cómo hacer que las máquinas tomen decisiones de manera autónoma, tal y como lo hacemos nosotros. Este objetivo, planteado en la década de los 50 del siglo pasado, ha alcanzado su apogeo en estos últimos cinco años. </p>
<p>Actualmente, la IA es capaz de emular el comportamiento humano en múltiples ámbitos, muchos de ellos imprescindibles en nuestras vidas, como es el caso de la medicina. En este campo, ya está cambiando radicalmente el trabajo cotidiano de los especialistas: puede realizar tareas repetitivas que conllevarían <a href="https://doi.org/10.3390/diagnostics12112794">mucho tiempo y fatiga visual</a> a un experto médico; generar <a href="https://doi.org/10.7759/cureus.37589">informes médicos de manera automatizada</a>; mejorar la <a href="https://doi.org/10.2196/19285">formación de los especialistas sanitarios</a>; ofrecer herramientas muy precisas de <a href="https://doi.org/10.1007/s12652-021-03612-z">diagnóstico de enfermedades</a>, e, incluso, ayudar en el <a href="https://doi.org/10.1186/s12909-023-04698-z">diseño de terapias y tratamientos</a>. </p>
<p>Sus aplicaciones en la salud son cada vez más numerosas y, sobre todo, más ambiciosas. Ya no basta con ayudar al médico en el diagnóstico de una enfermedad; esa prueba parece que ya está superada. Ahora se persigue un objetivo de mayor alcance: predecir el futuro. ¿Se puede prever si una persona aparentemente sana va a sufrir alguna enfermedad en un futuro no muy lejano? ¿Es posible conocer con antelación la progresión de la patología de un paciente? ¿Y si va a sobrevivir a ella? </p>
<p>Aunque parezcan preguntas sacadas de una película de ciencia ficción, varios trabajos publicados en medios científicos ofrecen algunas respuestas.</p>
<h2>Diagnósticos antes de que aparezcan los síntomas</h2>
<p>Con respecto a vaticinar si una persona va a sufrir una enfermedad en el futuro, investigadores del Hospital General de Massachusetts y del MIT en Boston (EE. UU.) <a href="https://doi.org/10.1148/radiol.2019182716">presentaron un sistema de IA</a> capaz de pronosticar si una mujer, actualmente sana, iba a desarrollar cáncer de mama en los cinco años siguientes, con una precisión aproximada de un 70 %. </p>
<p>El sistema fue entrenado con miles de mamografías, identificando las de las pacientes que desarrollaron cáncer en ese lapso de tiempo. Demostraron así que el modelo podía detectar cambios sutiles en tejidos mamarios precursores de la enfermedad y que no son fácilmente identificables por el experto médico con tanta antelación.</p>
<p>En una línea parecida, varios investigadores liderados por la Universidad de Ciencia y Tecnología de Hong Kong <a href="https://doi.org/10.1038/s43856-023-00269-x">publicaron en la revista <em>Communications Medicine (Nature)</em></a> un modelo capaz de predecir si una persona va a padecer álzheimer, incluso antes de presentar síntomas. Para ello, entrenaron el sistema con miles de datos genómicos, y demostraron que su capacidad para detectar variaciones genómicas asociadas a la enfermedad neurodegenerativa era superior que la de los métodos estadísticos convencionales.</p>
<h2>Máquinas que predicen la evolución de la enfermedad</h2>
<p>La segunda cuestión, la predicción de la evolución de una dolencia, puede ser muy relevante para algunas patologías. Este es el caso del glaucoma, una enfermedad que afecta al nervio óptico y <a href="https://theconversation.com/el-glaucoma-primera-causa-de-ceguera-irreversible-en-el-mundo-podra-curarse-algun-dia-199323">puede originar ceguera</a>. Para que un paciente pueda recibir un tratamiento personalizado, es importante anticipar la rapidez con que progresará su patología.</p>
<p>Este es el objetivo del modelo de IA <a href="https://doi.org/10.1038/s41598-023-46253-2">propuesto por un equipo científico de Singapur</a>. Su proyecto es capaz de pronosticar los cambios que el campo visual del paciente sufrirá en un plazo de 12 meses desde su primera visita al médico con una precisión en torno al 80 %. Sus parámetros fueron ajustados utilizando imágenes médicas, campos visuales y datos demográficos y clínicos de pacientes con cinco visitas durante 12 meses.</p>
<p>Los investigadores españoles no se quedan atrás. Un equipo multicéntrico internacional, liderado por la Universidad Politécnica de Madrid, <a href="https://doi.org/10.1038/s41598-022-13298-8">presentó un sistema de inteligencia artificial</a> capaz de identificar, cuantificar y caracterizar automáticamente los patrones de neumonía covid-19 para evaluar la gravedad de la enfermedad y predecir la mortalidad de los pacientes, el ingreso en las Unidades de Cuidados Intensivos (UCI) y la necesidad de ventilación mecánica, con alta precisión. En este caso, el modelo se entrenó con imágenes de tomografía axial computarizada (TAC) de 103 pacientes.</p>
<h2>Estimaciones de supervivencia</h2>
<p>La última cuestión es, quizás, la más delicada: ¿es capaz un programa de IA de prever de manera fiable si un paciente que sufre una dolencia grave va a poder sobrevivir? Pues ese es el objetivo de algunos trabajos muy recientes, que utilizan la inteligencia artificial para vaticinar si una persona enferma puede llegar a <a href="https://doi.org/10.7554/eLife.36173">despertar de un coma cerebral</a> o estimar la supervivencia de pacientes con distintos tipos de cáncer: <a href="https://doi.org/10.1038/s41598-023-35627-1">de laringe</a>, <a href="https://doi.org/10.1002/ctm2.159">rectal</a> y <a href="https://doi.org/10.3390/diagnostics12092125">tumores cerebrales</a>.</p>
<h2>Una revolución en ciernes</h2>
<p>Con toda seguridad, este nuevo rumbo en la investigación va a revolucionar las siguientes áreas:</p>
<ul>
<li><p>La medicina preventiva. La IA puede ayudar a identificar los pacientes con riesgo de desarrollar una enfermedad mucho antes de que ésta aparezca.</p></li>
<li><p>La medicina personalizada. Estos sistemas son capaces de ofrecer una estimación del progreso de una patología para un paciente concreto y permitir así que el médico pueda diseñar el tratamiento más adecuado. </p></li>
<li><p>La medicina paliativa. La predicción de supervivencia de un paciente puede ayudar al médico a diseñar y aplicar adecuadamente las terapias que sean necesarias. </p></li>
</ul>
<p>Otras áreas del conocimiento que deberán asumir un papel relevante en esta revolución son las del derecho y la ética; es necesario establecer normativas y límites adecuados. ¿Son tan fiables las estimaciones de la IA como para que estos programas lleguen a estar presentes en la práctica clínica diaria? ¿Es ético y/o legal utilizar sus predicciones? Si el sistema se equivoca, ¿quién se hace responsable? </p>
<p>Ahora mismo no tenemos respuestas para estos interrogantes. El tiempo dirá.</p><img src="https://counter.theconversation.com/content/223585/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Silvia Alayón Miranda no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Algunos sistemas de IA ya son capaces de predecir con notable grado de acierto si enfermaremos en el futuro o cómo evolucionará la persona afectada por una patología.Silvia Alayón Miranda, Profesora Titular del área de Ingeniería de Sistemas y Automática, Universidad de La LagunaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2213272024-02-26T20:54:30Z2024-02-26T20:54:30ZInteligencia artificial y robótica al servicio de la fisioterapia<figure><img src="https://images.theconversation.com/files/571268/original/file-20240124-21-8cj478.jpeg?ixlib=rb-1.1.0&rect=0%2C0%2C1196%2C741&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">Tratamiento de fisioterapia con el robot Adamo.</span> </figcaption></figure><p>La robótica y la inteligencia artificial están creciendo exponencialmente en el <a href="https://www.ospat.com.ar/blog/el-avance-de-la-robotica-y-la-inteligencia-artificial-en-salud/">ámbito sanitario</a>. De hecho, hace tiempo que las aplicaciones de <a href="https://theconversation.com/es/topics/inteligencia-artificial-55402">IA</a> ayudan a manejar una cantidad ingente de datos (como imágenes) y que se usan robots para intentar mejorar la eficiencia de los tratamientos (caso de los exoesqueletos).</p>
<p>De todos modos, es importante recalcar que el profesional sanitario es insustituible, y que, incluso por normativa, la decisión clínica debe ser tomada por un humano. En este contexto, herramientas como la inteligencia artificial y la robótica potencian las capacidades humanas en pro de mejorar la calidad de vida. </p>
<p>En lo que se refiere a la fisioterapia, los profesionales usan desde hace décadas dispositivos de electroterapia como los ultrasonidos, láseres de alta potencia, terapias superinductivas, terapias invasivas ecoguiadas, magnetoterapias o incluso mecanismos que fomentan la movilidad del paciente. </p>
<p>Además, la decisión clínica del especialista debe fundamentarse en un diagnóstico que garantice el tratamiento más adecuado. Para ello, los fisioterapeutas usan infinidad de test ortopédicos y evaluaciones de palpación, pero también se valen de herramientas tecnológicas que cuantifican el movimiento o aportan imágenes termográficas o ecográficas para valorar el estado del paciente y su evolución. </p>
<h2>Un proyecto ambicioso</h2>
<p>Dentro de la innovación en el campo de la fisioterapia, uno de los proyectos más ambiciosos es <a href="https://www.aei.gob.es/sites/default/files/convocatory_info/file/2023-10/CPP2022_PRD_WEB_FINAL.pdf">AIRESPALTER</a>, que aúna la inteligencia artificial aplicada al diagnóstico mediante imágenes termográficas con el tratamiento robótico a través de aire comprimido termorregulado. Las empresas <a href="https://thermohuman.com/es/">Thermohuman</a> y <a href="https://adamorobot.com">Adamo Robot</a> colaboran activamente junto a la <a href="https://www.ufv.es">Universidad Francisco de Vitoria</a> en el desarrollo de AIRESPALTER.</p>
<p>Su propósito es encontrar patrones térmicos relacionados con el dolor de espalda (cervical, dorsal o lumbar) y ofrecer al fisioterapeuta una propuesta de tratamiento automático con aire comprimido. El sistema robótico incorporará los ajustes necesarios de temperatura, velocidad y tipos de movimientos. </p>
<p>La compañía Thermohuman aporta el conocimiento y experiencia sobre la termografía, que detecta la temperatura del cuerpo del paciente. Así es posible determinar, entre otras cosas, <a href="https://pubmed.ncbi.nlm.nih.gov/16287675/">la cantidad de vascularización en un área concreta del cuerpo</a>. Las zonas que presentan un aumento de temperatura son compatibles con procesos inflamatorios, mientras que las áreas más frías pueden indicar una menor vascularización. Esto último podría ser indicio, por ejemplo, de rigidez o disfunción muscular.</p>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/un-traje-para-experimentar-que-se-siente-cuando-envejecemos-193736">Un traje para experimentar qué se siente cuando envejecemos</a>
</strong>
</em>
</p>
<hr>
<p>Gracias a estas imágenes, el terapeuta puede mapear y analizar las distintas estructuras y detectar zonas patológicas. Se ha comprobado que <a href="https://pubmed.ncbi.nlm.nih.gov/2971100/">una diferencia de temperatura de 0,3 ºC-0,6 ºC</a> o más entre el lado izquierdo y derecho de una misma región del paciente indica una alteración con sospecha de disfunción clínica. Con esta información, la decisión del terapeuta puede ser más adecuada y puede hacer un seguimiento del paciente de manera rápida, inocua y barata.</p>
<h2>El robot Adamo entra en escena</h2>
<p>La segunda pata del proyecto es <a href="https://www.youtube.com/watch?v=zeS5gt3ZSlE">Adamo Robot</a>, un robot colaborativo preparado al 100 % para trabajar con humanos que, además, cuenta con una cámara termográfica de última generación. Utiliza dos herramientas básicas en fisioterapia: la presión de masaje y el uso terapéutico de la temperatura. Ambas son aplicadas en seco a través de aire comprimido termorregulado; es decir, Adamo trata con la presión ejercida por el aire comprimido el cuerpo del paciente y aplica frío o calor según requiera la patología. </p>
<p>Su brazo robótico puede reproducir movimientos en tres dimensiones, y la temperatura, velocidad y presión pueden regularse según el criterio del fisioterapeuta. Es importante destacar que un proceso clínico siempre conlleva el tratamiento pasivo –con el apoyo de estas herramientas– y la terapia activa, con movimiento y ejercicio. El fin último es aliviar el dolor y devolver la máxima funcionalidad posible al paciente.</p>
<h2>Automatizado e indoloro</h2>
<p>Adamo es una herramienta que incorpora dos grandes beneficios a los tratamientos pasivos:</p>
<ul>
<li><p>La automatización, que permite al fisioterapeuta dedicar su tiempo a lo que de verdad importa: recuperar la funcionalidad del segmento lesionado.</p></li>
<li><p>Es un tratamiento absolutamente indoloro, ya que no contacta con la piel del paciente. Aunque Adamo ejerza una presión de hasta 6 bares, no estimula ciertos neurotransmisores y vías neurológicas que activan la sensación de dolor. Incluso si es sensible a la palpación, el paciente no sufrirá molestias de ningún tipo.</p></li>
</ul>
<p>Queda claro que la inteligencia artificial y la robótica son una gran elección para mejorar y agilizar los procesos clínicos dirigidos por un profesional sanitario. En este caso, por un fisioterapeuta.</p><img src="https://counter.theconversation.com/content/221327/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Esta publicación es parte del proyecto de i+D+i CPP2022-009565 financiado por MCIN/AEI/10.13039/501100011033/ y por la Unión Europea NextGenerationEU/PRTR.</span></em></p>El proyecto AIRESPALTER combina el poder de la IA para realizar diagnósticos mediante imágenes termográficas con la precisión de un brazo robótico que hace masajes y aplica calor o frio según la patología del paciente.Pablo Terrón Manrique, Profesor Doctor Facultad de Salud, Universidad Francisco de VitoriaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2202272024-02-22T19:29:06Z2024-02-22T19:29:06ZLa IA podría salvar al planeta de un evento de extinción masiva y localizar vida extraterrestre<figure><img src="https://images.theconversation.com/files/573437/original/file-20240205-18-acxm8j.jpg?ixlib=rb-1.1.0&rect=73%2C36%2C3421%2C1907&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption"></span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-illustration/astronaut-standing-front-screen-data-information-2250085937">Alberto Andrei Rosu/Shutterstock</a></span></figcaption></figure><p>¿Cómo podría la inteligencia artificial salvar al planeta de un evento de extinción masiva? ¿Podría explicar el origen del universo? ¿Podría localizar vida más allá de nuestro planeta?</p>
<p>Uno de los mayores desafíos en astrofísica es el análisis de grandes conjuntos de datos, algo para lo que la inteligencia artificial ha demostrado ser muy eficiente. Solo como ejemplo, en un estudio de la Universidad de Barcelona han entrenado a una IA con más de 4 millones de fuentes astronómicas, extraídas del <a href="https://www.sdss.org/">Sloan Digital Sky Survey</a> para enseñarle a <a href="https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=&ved=2ahUKEwiMh6D0qc6DAxWjlmoFHWxYBsUQFnoECCMQAQ&url=https%3A%2F%2Fdiposit.ub.edu%2Fdspace%2Fbitstream%2F2445%2F189820%2F1%2FSABAT%25C3%2589S%2520DE%2520LA%2520HUERTA%2520JORDI_5181450_assignsubmission_file_TFG_Sabat%25C3%25A9s_Jordi_final.pdf&usg=AOvVaw2FSWsZY_LqLoQVxs4BGiMw&opi=89978449">clasificar objetos astronómicos</a>, entre ellos <a href="https://www.space.com/ai-finds-first-potentially-dangerous-asteroid">asteroides</a> potencialmente peligrosos. </p>
<p>También se emplea la IA para el pronóstico de <a href="https://noticiasdelaciencia.com/art/46411/inteligencia-artificial-para-pronosticar-tormentas-solares">tormentas solares</a>. Solo como otro ejemplo entre cientos, el modelo <a href="https://noticiasdelaciencia.com/art/46411/inteligencia-artificial-para-pronosticar-tormentas-solares">DAGER, desarrollado por FDL (Frontier Development Lab)</a>, utiliza inteligencia artificial para analizar las mediciones del viento solar hechas por naves espaciales y predecir dónde golpeará una tormenta solar inminente, en cualquier lugar de la Tierra, con 30 minutos de antelación. Anticiparnos es la única manera de poner a salvo de posibles daños a nuestros sistemas de satélites y redes eléctricas. </p>
<h2>IA y la defensa planetaria</h2>
<p>La aplicación de IA en la <a href="https://hipertextual.com/2023/08/asteroide-potencialmente-peligroso-inteligencia-artificial">detección y seguimiento de objetos espaciales potencialmente peligrosos para la Tierra </a> ha emergido como un componente crítico en la gestión de riesgos cósmicos. Con el crecimiento constante de la cantidad de datos recopilados por telescopios y observatorios, el análisis humano es insuficiente. La identificación rápida de asteroides y cometas que podrían representar amenazas se ha convertido en un desafío que la IA está abordando con éxito.</p>
<p>La IA también contribuye a la <a href="https://tendencias21.levante-emv.com/la-inteligencia-artificial-descubre-11-nuevos-asteroides-peligrosos_a45719.html">predicción de órbitas y trayectorias</a> de estos objetos. Los modelos de aprendizaje automático pueden analizar datos históricos y calcular con mayor precisión posiciones y trayectorias futuras. Esto permite a los científicos prever acercamientos y evaluar el nivel de amenaza que representan para la Tierra. Esta capacidad de análisis posibilita que los científicos y las agencias espaciales centren sus esfuerzos en la vigilancia y seguimiento de los objetos que requieren una atención más detallada.</p>
<p>La <a href="https://phys.org/news/2022-01-largest-cosmic-simulations-ai-free.html">simulación computacional</a> de fenómenos astrofísicos complejos también se beneficia enormemente de la IA. No solo tiene el potencial de al menos avisarnos de una catástrofe: la inteligencia artificial también va a mejorar nuestra comprensión de los eventos astrofísicos en escalas de tiempo cósmicas.</p>
<h2>La IA busca a E.T.</h2>
<p>La IA tiene el potencial de revolucionar la búsqueda de vida extraterrestre. <a href="https://www.turismodeestrellas.com/inteligencia-artificial-vida-extraterrestre-seti">El SETI ya la está utilizando</a>. Su proyecto Búsqueda de Inteligencia Extraterrestre utiliza algoritmos que filtran interferencias terrestres y detectan señales que los humanos no pueden identificar. </p>
<p>Otro ejemplo de alcance es el trabajo de <a href="https://carnegiescience.edu/">un equipo estadounidense que está entrenando una IA para la identificación de vida</a>. Han usado datos de análisis moleculares de 134 muestras ricas en carbono, tanto de origen biológico como no biológico. La IA acertó en un 90 % al identificar correctamente el origen de muestras de organismos vivos (como conchas modernas, huesos, dientes, insectos, hojas o cabello), restos de vida antigua alterada por procesos geológicos (carbón, fósiles ricos en carbono, petróleo o ámbar) y muestras de origen no biológico. </p>
<p>La <a href="https://www.mdscc.nasa.gov/index.php/2021/11/23/un-nuevo-metodo-de-estudio-suma-301-planetas-al-recuento-total-de-kepler/">identificación de exoplanetas</a> es otro ámbito en el que la IA ha demostrado su utilidad. Con el aumento de la cantidad de datos de misiones como <a href="https://exoplanets.nasa.gov/keplerscience/">Kepler</a> y <a href="https://tess.mit.edu/science/">TESS</a>, los métodos “artesanales” de búsqueda de exoplanetas han quedado abrumados. La IA puede analizar las curvas de luz estelar y detectar señales débiles que indican la presencia de exoplanetas que podrían haber pasado desapercibidos mediante enfoques convencionales.</p>
<h2>Clasificación y estudio de galaxias</h2>
<p>En el campo de la <a href="https://noticiasdelaciencia.com/archive/39134/clasificacion-de-galaxias-con-inteligencia-artificial">clasificación de galaxias</a>, la IA ha mejorado significativamente la eficiencia y precisión. <a href="https://academic.oup.com/mnras/article/482/1/1211/5142869?login=false">ClaRan</a>, por ejemplo, un programa desarrollado para identificar rostros humanos, se ha adaptado para clasificar fuentes de radio cósmicas, hablamos de decenas de millones. </p>
<p>La IA puede analizar imágenes de galaxias y clasificarlas automáticamente en categorías específicas. </p>
<p>También en la exploración del cosmos profundo la IA desempeña un papel esencial. Telescopios espaciales, como el Hubble y el James Webb, generan imágenes de alta resolución de regiones distantes del Universo. Los algoritmos de procesamiento de imágenes basados en IA pueden mejorar la calidad de estas imágenes, revelando detalles sutiles y facilitando un análisis más detallado de <a href="https://uchile.cl/noticias/181361/la-inteligencia-artificial-sale-en-ayuda-de-la-cosmologia">estructuras cósmicas</a>.</p>
<h2>Enseñanza con o sin IA</h2>
<p>Pero aunque la IA ha transformado el paisaje de la astrofísica y está ayudando a responder algunas de las preguntas más fundamentales sobre el Universo, es importante conocer también sus limitaciones. Aunque es una herramienta poderosa, solo puede trabajar con los datos que se le proporcionan, por lo que sus resultados pueden resultar sesgados. De ahí la importancia de usar datos confiables y tener la capacidad de analizar los resultados para detectar sesgos o incongruencias y corregirlos.</p>
<p>En cualquier caso, resulta necesario integrar el uso de IA en la enseñanza de los futuros astrofísicos. Es esencial para preparar a la próxima generación de científicos de manera efectiva. </p>
<p>En lugar de percibir la IA como una forma de hacer trampa, es fundamental entenderla como una herramienta valiosa para la investigación astrofísica contemporánea. Más aún, la IA será LA herramienta del futuro. No importará a qué nos dediquemos: si no sabemos usar correctamente la inteligencia artificial tendremos un problema.</p><img src="https://counter.theconversation.com/content/220227/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Alejandro Márquez Lugo recibe fondos del Sistema Nacional de Investigadores del CONACyT de México.</span></em></p><p class="fine-print"><em><span>Silvana G. Navarro Jiménez recibe fondos del Sistema Nacional de Investigadores de CONAHCyT (COnsejo NAcional de Humanidades, Ciencia y Tecnología)</span></em></p>Tormentas solares, asteroides potencialmente peligrosos… La inteligencia artificial servirá para predecir catástrofes devastadoras.Alejandro Márquez Lugo, Profesor Investigador (Astrofísica), Universidad de GuadalajaraSilvana Guadalupe Navarro Jiménez, Universidad de GuadalajaraLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2206992024-02-21T21:50:54Z2024-02-21T21:50:54ZLa IA de los videojuegos aprende a detectar qué sentimos cuando jugamos<figure><img src="https://images.theconversation.com/files/575984/original/file-20240215-16-m7vzdu.png?ixlib=rb-1.1.0&rect=220%2C0%2C1664%2C1079&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">Captura de pantalla del videojuego 'La Tierra Media: Sombras de guerra'.</span> <span class="attribution"><a class="source" href="https://youtu.be/hshZctfhIDM?si=-ORfnh83HaPD7oLA">WB Games Spain</a></span></figcaption></figure><p>La inteligencia artificial (IA) ha evolucionado significativamente en los últimos años. Uno de sus avances más espectaculares es la llamada IA emocional o IA afectiva.</p>
<p>Pero ¿qué es exactamente una IA emocional? En esencia, es un tipo de IA que no solo procesa datos y ejecuta tareas, sino que también tiene la capacidad de reconocer, interpretar y responder a las emociones humanas. Es decir, una IA que, por ejemplo, no solo entiende lo que usted dice, sino cómo se siente al decirlo. </p>
<p>Esta tecnología revolucionaria <a href="https://doi.org/10.1109/taffc.2016.2519888">está empezando a encontrar su camino en el mundo de los videojuegos</a>, transformando la manera en la que los experimentamos. En ellos, la IA emocional promete una experiencia más rica e inmersiva. ¿Cómo sería jugar un juego que se adapta a su estado de ánimo? ¿Un juego que responde a su alegría, su frustración o su tristeza? Hablamos de <a href="https://doi.org/10.1109/ICRITO51393.2021.9596185">un nivel de personalización y conexión emocional</a> nunca antes visto en este entorno.</p>
<h2>Nuevos niveles de experimentación</h2>
<p>Uno de los aspectos centrales de la IA afectiva es su capacidad para reconocer, comprender y adaptarse a las emociones de los jugadores. </p>
<p>Esto <a href="https://doi.org/10.1109/sbgames.2017.00015">se logra</a> mediante algoritmos, redes neuronales y métodos de procesamiento de datos que evalúan entradas como expresiones faciales, tonos de voz y señales fisiológicas. El objetivo es construir un sistema que no solo comprenda las emociones humanas en tiempo real, sino que también personalice sus respuestas en función de esas emociones.</p>
<figure class="align-right zoomable">
<a href="https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="Captura de pantalla del videojuego _Façade_." src="https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=237&fit=clip" srcset="https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=449&fit=crop&dpr=1 600w, https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=449&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=449&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=564&fit=crop&dpr=1 754w, https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=564&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/575986/original/file-20240215-26-mgfygz.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=564&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">Captura de pantalla del videojuego <em>Façade</em>.</span>
<span class="attribution"><a class="source" href="https://en.wikipedia.org/wiki/File:Facade_screenshot_Trip_%26_Grace.jpg">Procedural arts/Wikimedia Commons</a></span>
</figcaption>
</figure>
<p>Un ejemplo pionero de esta tecnología es <a href="https://en.wikipedia.org/wiki/Fa%C3%A7ade_(video_game)"><em>Façade</em></a>, un juego interactivo donde la comunicación con personajes virtuales se realiza a través de un chat en línea. La IA emocional del juego interpreta las respuestas de los jugadores para ajustar las reacciones de los personajes, creando una experiencia dinámica y personal. Otro ejemplo notable es <a href="https://es.wikipedia.org/wiki/The_Last_of_Us"><em>The Last of Us</em></a>, donde la IA ajusta la inteligencia y comportamiento de los enemigos como respuesta a las acciones del jugador. Si el jugador adopta un enfoque agresivo, los enemigos se vuelven más defensivos, adaptándose así a su estrategia y estado emocional.</p>
<p>En el ámbito de los simuladores, <a href="https://www.ea.com/es/games/the-sims/the-sims-4"><em>Sims 4</em></a> utiliza la IA afectiva para manejar las respuestas de los personajes virtuales a diferentes situaciones. Los “sims” pueden experimentar un amplio rango de emociones, como felicidad, tristeza o enfado, en función de los eventos en sus vidas virtuales, enriqueciendo la experiencia del jugador con una gama más amplia de interacciones.</p>
<p>En el sistema Némesis en <a href="https://es.wikipedia.org/wiki/La_Tierra_Media:_sombras_de_guerra"><em>La Tierra Media: sombras de guerra</em></a>, la IA adapta dinámicamente la narrativa y las interacciones basadas en las acciones del jugador. Así, los enemigos recuerdan sus encuentros previos con el jugador y responden de manera diferente en futuros enfrentamientos.</p>
<figure class="align-right zoomable">
<a href="https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="Uno de los personajes en una negociación con rehenes. Al jugador se le presentan diferentes opciones de diálogo para intentar calmar la situación." src="https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=45&auto=format&w=237&fit=clip" srcset="https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=338&fit=crop&dpr=1 600w, https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=338&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=338&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=424&fit=crop&dpr=1 754w, https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=424&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/575988/original/file-20240215-22-foeoj5.png?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=424&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">Uno de los personajes en una negociación con rehenes. Al jugador se le presentan diferentes opciones de diálogo para intentar calmar la situación.</span>
<span class="attribution"><a class="source" href="https://en.wikipedia.org/wiki/File:Detroit_Become_Human_gameplay.png">Wikimedia Commons</a></span>
</figcaption>
</figure>
<p>La IA emocional también está abriendo nuevas fronteras en juegos más centrados en la narrativa, como <a href="https://es.wikipedia.org/wiki/Detroit:_Become_Human"><em>Detroit: Become Human</em></a>. En él, cada elección no solo cambia la trama, sino que también se ve influenciada por el estado emocional del jugador. ¿Tomaría las mismas decisiones si estuviera enfadado o triste, en calma o nervioso? La IA puede ajustar la historia de manera sutil pero profunda basándose en las emociones detectadas.</p>
<h2>Cuestiones éticas</h2>
<p>Más allá del entretenimiento, la IA afectiva <a href="https://doi.org/10.1007/978-3-319-46152-6_16">tiene el potencial de revolucionar la terapia a través de videojuegos</a>. Juegos como <a href="https://es.wikipedia.org/wiki/Celeste_(videojuego)"><em>Celeste</em></a>, que trata temas como la ansiedad y la depresión, son aún más efectivos al adaptarse a las emociones del jugador en tiempo real, ofreciendo una experiencia terapéutica personalizada.</p>
<figure class="align-center zoomable">
<a href="https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="Captura de pantalla del juego _Celeste_." src="https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=45&auto=format&w=754&fit=clip" srcset="https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=338&fit=crop&dpr=1 600w, https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=338&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=338&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=424&fit=crop&dpr=1 754w, https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=424&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/575985/original/file-20240215-24-mfgwgb.png?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=424&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">Captura de pantalla del juego <em>Celeste</em>.</span>
<span class="attribution"><a class="source" href="https://es.wikipedia.org/wiki/Archivo:Celeste_screenshot_02.png">Matt Makes Games/Wikimedia Commons</a>, <a class="license" href="http://creativecommons.org/licenses/by-sa/4.0/">CC BY-SA</a></span>
</figcaption>
</figure>
<p>Sin embargo, el uso de esta tecnología no está exento de desafíos. La privacidad y la ética son preocupaciones clave en la incorporación de la IA afectiva a los videojuegos. A medida que avanzamos hacia una era donde los juegos pueden “leer” nuestras emociones, surge la pregunta: ¿hasta qué punto estamos dispuestos a permitir que esta tecnología penetre en nuestra mente? Esta cuestión quizá va más allá del simple reconocimiento de emociones. <a href="https://nyuscholars.nyu.edu/en/publications/ethical-considerations-for-player-modeling">Implica considerar cómo se recopilan, almacenan y utilizan nuestras emociones</a>.</p>
<p>Esto, a su vez, plantea importantes cuestiones de privacidad. ¿Cómo garantizan los desarrolladores de juegos que estos datos sensibles estén seguros y protegidos? ¿Qué medidas se toman para asegurar que no se realice un uso indebido de esta información, como en la publicidad dirigida o en formas de manipulación emocional orientadas a la monetización del juego? Es crucial establecer límites claros y políticas de transparencia para los usuarios.</p>
<p>Además, la ética de cómo se utiliza esta tecnología es de suma importancia. ¿Podría un juego alterar su dificultad o contenido de manera que manipule emocionalmente a los jugadores y así mantenerlos jugando más tiempo? ¿Cómo se equilibra la creación de una experiencia de juego atractiva e inmersiva con el respeto a la autonomía emocional del jugador?</p>
<p>La responsabilidad de manejar estos datos recae tanto en los desarrolladores como en los reguladores. Deben existir directrices claras y regulaciones estrictas para asegurar que la IA emocional en los videojuegos se desarrolle y utilice de manera que beneficie a los jugadores, sin comprometer su privacidad o bienestar.</p>
<h2>La regulación que vendrá</h2>
<p>Ahora mismo el uso de inteligencias artificiales afectivas en videojuegos no está claramente definido en un marco global, sino que depende de la jurisdicción de cada país y del contexto específico del videojuego.</p>
<p>Las regulaciones que podrían aplicarse a la IA afectiva en los videojuegos generalmente caen bajo marcos legales más amplios relacionados con la privacidad de datos, la protección del consumidor, la propiedad intelectual y la ética en la tecnología. Por ejemplo, en la Unión Europea, el <a href="https://www.boe.es/doue/2016/119/L00001-00088.pdf">Reglamento General de Protección de Datos (GDPR)</a> podría afectar a cómo se recopilan, procesan y almacenan los datos emocionales de los usuarios por juegos que emplean estas IA afectivas. Precisamente, la Unión Europea <a href="https://theconversation.com/la-ia-va-a-ser-regulada-en-europa-para-respetar-los-derechos-fundamentales-204946">está en proceso de regular la inteligencia artificial</a>, que incluye aspectos que podrían afectar al uso de IA afectiva en los videojuegos, aunque la legislación no aborde específicamente esta aplicación. </p>
<p>En definitiva, la IA emocional tiene el potencial de redefinir nuestra relación con la tecnología, haciéndola más humana, más sensible y más conectada con nuestras experiencias de vida. Los videojuegos están listos para ser no solo una ventana a mundos imaginarios, sino también un espejo que responde a la profundidad de la experiencia humana.</p><img src="https://counter.theconversation.com/content/220699/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.</span></em></p>La inteligencia artificial afectiva está tomando el control de los videojuegos, siendo capaz de comprender y adaptarse a las emociones de los jugadores. ¿Qué ventajas e inconvenientes presenta esto?Ricardo Fernández Rafael, Investigador Predoctoral en Ocio, Cultura y Comunicación, Universidad de DeustoLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2233862024-02-13T18:16:12Z2024-02-13T18:16:12ZUn monstruo ha venido a vernos: el gran miedo de la industria del cine a la IA<figure><img src="https://images.theconversation.com/files/575063/original/file-20240212-28-ifps0g.jpg?ixlib=rb-1.1.0&rect=0%2C0%2C6250%2C4123&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">David Verdaguer en su discurso de agradecimiento al recoger el premio al mejor actor protagonista en los Premios Goya 2024 por su interpretación en 'Saben aquell'.</span> <span class="attribution"><a class="source" href="https://www.premiosgoya.com/prensa/notas-de-prensa/palmares-38-premios-goya/">Premios Goya</a></span></figcaption></figure><p>Al recoger su Goya 2024 como mejor actor, David Verdaguer habló del miedo que invadía constantemente a Eugenio, el humorista al que da vida en <em>Saben aquell</em>. “Creo que la mayoría de los que estamos aquí tenemos miedo, pero lo aparcamos para hacer películas”, dijo Verdaguer. Pero si hay algo que genera miedo en este momento en la industria del cine, el monstruo que ha llegado para quedarse, es la inteligencia artificial (IA).</p>
<p>El afán de superarse a la hora de interpretar un papel que mostraba Verdaguer poco tiene que ver con <a href="https://www.npr.org/2023/08/01/1191242175/movie-extras-worry-theyll-be-replaced-by-artificial-intelligence">el miedo que tienen los figurantes de que se grabe su imagen y se use en mil películas</a> sin recibir ningún tipo de compensación económica. Y no solo a ellos afecta el nuevo monstruo. </p>
<p>Hoy en día la IA se utiliza en la industria cinematográfica para redactar guiones, componer música, encontrar las mejores localizaciones para grabar, seleccionar actores, hacerlos rejuvenecer, mejorar el audio o las imágenes, desarrollar <em>software</em> y videojuegos y para los sistemas de recomendación de series y vídeos <em>online</em>. Los resultados de la IA en la industria del cine son tan increíbles que ilusionan y al mismo tiempo asustan a guionistas, compositores, realizadores y directores.</p>
<h2>Breve historia de la IA en la industria del cine</h2>
<p>Ya en la película <em>El Cuervo</em>, en 1994, se pudo recrear digitalmente la presencia de Brandon Lee después de morir. En 2018 el director de cine Oscar Sharp y el tecnólogo creativo de Google, Ross Goodwin, crearon <a href="https://www.wired.com/story/ai-filmmaker-zone-out/"> la película <em>Zone Out</em> en sólo 48 horas</a> para el festival de cine de ciencia ficción de Londres usando el sistema Benjamin AI y miles de horas de películas antiguas y grabaciones de actores profesionales sobre fondo verde. </p>
<p>El resultado final fue poco refinado y, en su mayor parte, carente de sentido, pero la reducción de los tiempos y costes de producción fue innegable y aterradora. Harrison Ford en <em>Indiana Jones y el dial del destino</em> es un claro ejemplo de cómo los actores envejecidos (o fallecidos) pueden ser rejuvenecidos (o resucitados) mediante inteligencia artificial.</p>
<h2>¿Ha llegado el fin del derecho de autor?</h2>
<p>Cualquier empresa que se haya dedicado a la largo de su historia a generar contenidos de todo tipo (textos, imágenes, vídeos, etc.) corre el riesgo de perder su propiedad intelectual y de que se devalúe de golpe su ventaja competitiva, es decir, su capacidad creativa. </p>
<p>Por eso el 27 de diciembre de 2023 <a href="https://www.nytimes.com/2023/12/27/business/media/new-york-times-open-ai-microsoft-lawsuit.html"><em>The New York Times</em> presentó una demanda</a> en el Tribunal Federal de Distrito de Manhattan contra Microsoft y OpenAI, creador de ChatGPT, alegando que OpenAI había utilizado ilegalmente sus artículos como datos de entrenamiento infringiendo sus derechos de autor. Hecho que OpenAI niega defendiendo su uso legítimo y añadiendo además que “<a href="https://theconversation.com/how-a-new-york-times-copyright-lawsuit-against-openai-could-potentially-transform-how-ai-and-copyright-work-221059">sería imposible entrenar a los principales modelos de IA actuales sin materiales protegidos por derechos de autor</a>”. </p>
<p>Claramente esta sentencia hará escuela y determinará si de verdad es posible que el producto de una empresa se base en la propiedad intelectual de otra sin pedir permiso o prever una compensación. Podrá haber una sobresaturación de contenidos generados por IA, lo que dificultará que los creadores humanos destaquen. </p>
<h2>La IA como complemento y no como sustituto</h2>
<p>Todo esto es positivo siempre y cuando la tecnología no sustituya al ser humano, sino que lo complemente. Podemos mencionar algunos ejemplos de fructífera colaboración del humano con la maquina.</p>
<p><a href="https://www.technologyreview.com/2023/06/01/1073858/surreal-ai-generative-video-changing-film/"><em>The Frost</em></a> es una película de 12 minutos en la que cada plano ha sido generado por una IA creadora de imágenes. Para hacerla, la empresa Waymark usó un guión escrito por su productor ejecutivo Josh Rubin, quien también la dirigió, y lo introdujo en el modelo de creación de imágenes DALL-E 2 de OpenAI. </p>
<p><a href="https://www.youtube.com/watch?v=4Q5qstYoYu0"><em>Expanded Childhood</em></a> es otro ejemplo de corto hecho a partir de viejas fotos familiares de su director, Sam Lawton, que DALL-E 2 amplía más allá de sus límites, permitiendo al autor jugar con los recuerdos y las viejas imágenes.</p>
<p><a href="https://tristwolff.medium.com/introducing-dramatron-the-open-source-co-creation-tool-powered-by-gpt-3-29511581300"><em>Dramatron</em></a> es una herramienta para generar guiones a partir de una frase que puede simplificar el trabajo de los escritores de guiones teatrales o cinematográficos sin limitar su creatividad como parte de una experiencia de coescritura. </p>
<p>Aunque hay que ser consciente de que, al utilizar datos históricos, la IA generativa puede amplificar los <a href="https://theconversation.com/como-evitar-que-la-inteligencia-artificial-aprenda-nuestros-prejuicios-142141">sesgos</a> existentes, replicar expresiones consideradas obsoletas o utilizar estereotipos fuera de lugar.</p>
<p>La importancia de valorar <a href="https://www.catarata.org/libro/la-etica-de-la-inteligencia-artificial_149391/">la ética de la IA</a> es cada vez más relevante. Mientras sea una pluma o pincel más en las manos de los autores y las autoras, podremos seguir preservando nuestra autonomía creativa. Y que no sea un monstruo lo que ha venido a vernos.</p><img src="https://counter.theconversation.com/content/223386/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Sara Degli-Esposti ha recibo fondos del Proyecto "Ingeniería de valores en sistemas de IA - VAE" TED2021-131295B-C31 financiado el Ministerio de Ciencia e Innovación (MCIN) y por la “Unión Europea NextGenerationEU” y el Plan de Recuperación, Transformación y Resiliencia de España (PRTR) a través de la Agencia Estatal de Investigación (AEI) doi: 10.13039/501100011033.
</span></em></p>David Verdaguer se llevó el Goya por su interpretación del humorista Eugenio. En sus agradecimientos habló del miedo. Uno de ellos, quizá el más poderoso en estos momentos, es que la inteligencia artificial termine con la industria del cine.Sara Degli-Esposti, Research fellow, Centro de Ciencias Humanas y Sociales (CCHS - CSIC)Licensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2217722024-02-12T22:03:30Z2024-02-12T22:03:30ZLa abrumadora demanda de poder computacional que exige la IA<figure><img src="https://images.theconversation.com/files/573843/original/file-20240206-28-vq8v24.jpg?ixlib=rb-1.1.0&rect=28%2C22%2C3799%2C2132&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption"></span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/futuristic-concept-data-center-chief-technology-2212675527">Gorodenkoff / Shutterstock</a></span></figcaption></figure><p>Las IAs <a href="https://www.nuro.ai">conducen vehículos</a>, <a href="https://www.aiva.ai/">crean música</a>, ayudan a <a href="https://www.manatal.com/">seleccionar candidatos</a> en puestos laborales y <a href="https://www.interprefy.com">traducen nuestras voces</a> a otros idiomas. No, no es futuro. Hay un aluvión creciente de posibilidades para estos y muchos otros usos. Pero nos enfrentamos a un problema de peso: no contamos con <em>hardware</em> suficiente para afrontar la creciente demanda de sistemas basados en inteligencia artificial, lo que además exige un consumo de energía disparatado. </p>
<p>Las inteligencias artificiales realizan sus tareas con una habilidad verdaderamente notable. A menudo, el contenido o los resultados no se distinguen de lo que podemos hacer los seres humanos. No hay freno posible a su uso. </p>
<h2>Tres millones de aplicaciones disponibles</h2>
<p>En enero de 2024, la compañía OpenAI, creadora de aplicaciones como <a href="https://chat.openai.com/">ChatGPT</a> y <a href="https://openai.com/dall-e-2">DALL-E</a>, publicó <a href="https://openai.com/blog/introducing-the-gpt-store">GPT Store</a>, una tienda en la nube con aplicaciones de IA personalizadas, desde donde se pueden crear versiones adaptadas de ChatGPT. Por ejemplo, <a href="https://chat.openai.com/g/g-hRCqiqVlM-tutor-me">Tutor Me</a>, que puede ayudarnos con preguntas de matemáticas, ciencia y humanidades; <a href="https://chat.openai.com/g/g-82dEDeoN3-murder-mystery-mayhem">Murder Mystery Mayhem</a>, un juego de misterio para resolver casos de crímenes generados con inteligencia artificial; y muchas otras. </p>
<p>Según la propia compañía, la tienda ya cuenta con más de 3 millones de aplicaciones. </p>
<p>Los grandes modelos de lenguaje, o LLMs <a href="https://en.wikipedia.org/wiki/Large_language_model">(Large Language Models)</a>, han sido fundamentales en esta historia. Gracias a la creciente disponibilidad de los sistemas basados en IA, hoy en día es relativamente sencillo construir <em>software</em> que interactúe o utilice este tipo de modelos. Más aún, las inversiones en IA por parte de las grandes compañías, junto con el creciente interés por crear inteligencias artificiales propias, ha provocado una increíble demanda de <em>hardware</em> especializado. </p>
<p>Es decir, para la cantidad de desarrollos basados en inteligencia artificial hacen falta máquinas, grandes máquinas. Estamos ante una enorme demanda de poder computacional que no puede satisfacerse. </p>
<h2>El <em>software</em> de la IA</h2>
<p>Desarrollar una pieza de _<em>software</em> que utilice un modelo de lenguaje puede ser, en ocasiones, muy sencillo. Algunas grandes compañías, como OpenAI o Google, ya proveen acceso a muchos de sus modelos mediante aplicaciones en la nube. </p>
<p>Esto permite que, mediante el uso de estos servicios, uno pueda desarrollar un pequeño componente de <em>software</em> de unas decenas de líneas de código que use, por ejemplo, el gran modelo de lenguaje <a href="https://openai.com/gpt-4">GPT-4</a> (el que usa ChatGPT). </p>
<p>Usar estos servicios puede tener un costo económico considerable, normalmente asociado a la cantidad de mensajes enviados al modelo. </p>
<p>Como ha ocurrido siempre a lo largo de la breve historia de la informática, muchos desarrolladores deciden liberar sus modelos de lenguaje, y se pueden utilizar como modelos libres. </p>
<p>Por ejemplo, Meta permite que sus modelos de la serie <a href="https://llama.meta.com/">Llama2</a> puedan ser descargados y utilizados libremente. La plataforma <a href="https://huggingface.co/">HuggingFace</a> es muy popular por la gran cantidad de modelos que tiene disponibles para su uso gratuito. </p>
<p>Construir <em>software</em> que utilice uno de estos modelos tiene prácticamente la misma complejidad que usar servicios en la nube, y puede resolverse con unas pocas líneas de código. </p>
<p>Desarrollar un modelo de IA propio puede ser más complejo. Estos modelos requieren una inmensa cantidad de datos para ser construidos (texto, imágenes, etc.). Por ello, típicamente se necesita desarrollar un <a href="https://www.dongee.com/tutoriales/que-es-pipeline-una-guia-completa-para-principiantes/#:%7E:text=Pipeline%20de%20Desarrollo%20de%20Software,%2C%20pruebas%2C%20despliegue%20y%20mantenimiento."><em>pipeline</em></a> (todo el proceso que sigue el código, desde su diseño e implementación hasta que se despliega) de <em>software</em> robusto para realizar una variedad de tareas. Estas tareas incluyen recolectar y preparar los datos, definir la arquitectura del modelo, utilizar los algoritmos de entrenamiento sobre los datos y, finalmente, utilizar el modelo obtenido. Afortunadamente, hay muchas librerías online populares para simplificar el desarrollo de <em>software</em> para estas tareas. </p>
<p>Sin embargo, actualmente el mayor desafío se encuentra en la gran infraestructura de <em>hardware</em> que se necesita para un funcionamiento razonable (en cuanto a tiempo de construcción y respuesta) de estos modelos. </p>
<h2>El problema del <em>hardware</em></h2>
<p>El uso de modelos de IA requiere contar con hardware especializado, normalmente Unidades de Procesamiento Gráfico (GPU). </p>
<p>Cuando los modelos se utilizan mediante algún servicio en la nube, el <em>hardware</em> es proporcionado por los proveedores del servicio (Google, OpenAI, etc). Cuando se utilizan modelos libres, uno debe elegir entre contratar un servicio de <em>hardware</em> (mediante Amazon Web Services, por ejemplo) o adquirir sus propias GPU. Esto último puede llegar a tener un costo considerable. Por ejemplo, la GPU A100 de Nvidia, una GPU avanzada y muy recomendada, puede llegar a costar alrededor de 10 000 dólares. </p>
<p>El problema se vuelve aún mayor si uno desea construir un modelo propio. Entrenar un modelo de IA es una tarea que requiere mucho más poder computacional que su uso. Por ejemplo, construir y entrenar el modelo GPT-4 le costó a OpenAI alrededor de <a href="https://en.wikipedia.org/wiki/GPT-4">100 millones de dólares</a>; Google gastó alrededor de 8 millones de dólares para construir PaLM 2. En general, la construcción de LLMs y otros modelos se vuelve cada año <a href="https://hai.stanford.edu/news/2023-state-ai-14-charts">más costosa</a>. </p>
<p>Al mismo tiempo, se destina cada vez más dinero en <em>hardware</em> para IA y centros de datos altamente equipados. Según un <a href="https://cacm.acm.org/magazines/2023/8/274941-genai-giga-terawatt-hours-and-gigatons-of-co2">artículo</a> de <em>Communications of the ACM</em>, entre mayo de 2022 y abril de 2023, Nvidia vendió 15 000 millones de dólares en GPUs, atribuyendo las ventas principalmente al uso de GPU para IA. Amazon, Google y Microsoft también reportaron un incremento en sus gastos destinados al mantenimiento de centros de datos. Por esta creciente demanda, durante 2023 han <a href="https://www.wired.com/story/nvidia-chip-shortages-leave-ai-startups-scrambling-for-computing-power/">publicado varios informes alertando de la falta de GPUs</a>.<br>
Hoy contamos con grandes cantidades de espacio de almacenamiento (la nube parece infinita), procesamiento ultrarrápido y servidores por todas partes aceptando y entregando información. Pero la IA se enfrenta a limitaciones de <em>hardware</em>. </p>
<h2>Enfrentando la falta de <em>hardware</em></h2>
<p>Si no hay <em>hardware</em> suficiente, si no hay máquina suficiente, la comunidad científica, y así hacemos desde <a href="https://software.imdea.org/es/">IMDEA Software</a>, debe simplificar el <em>manual de instrucciones</em> para obtener <em>software</em> eficiente, confiable y seguro. La avalancha de nuevos modelos de IA y la falta de recursos computacionales necesarios para construirlos (incluyendo el inmenso consumo de energía) generan la necesidad de reducir este tipo de modelos sin perder sus principales características. El objetivo es lograr un impacto insignificante en su desempeño.</p>
<p>Reducir los costos y el consumo energético de la construcción de sistemas de IA debe ser una preocupación de la sociedad y, principalmente, de todos los científicos informáticos y de los desarrolladores de IA. En ello estamos.</p><img src="https://counter.theconversation.com/content/221772/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Facundo Molina no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Los sistemas modernos basados en inteligencia artificial crecen a un ritmo acelerado, con una gran demanda de poder computacional, necesario para su funcionamiento.Facundo Molina, Post-doctoral Researcher - Software Testing and Analysis, IMDEA SOFTWARELicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2231102024-02-11T21:08:04Z2024-02-11T21:08:04ZQué supone el experimento con Sam, el niño que enseña a hablar a las máquinas<figure><img src="https://images.theconversation.com/files/574353/original/file-20240208-22-5f4d1c.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">Durante 18 meses de la vida de Sam, un niño australiano, han recogido 61 horas de imágenes y grabaciones de audio que han servido para generar un modelo de lenguaje para las IA.</span> <span class="attribution"><a class="source" href="https://www.science.org/doi/10.1126/science.adi1374">Wai Kei Vong, autor del estudio</a>, <a class="license" href="http://creativecommons.org/licenses/by-sa/4.0/">CC BY-SA</a></span></figcaption></figure><p>Sam ha llevado un casco con sensores y cámara entre los 6 y los 25 meses. No siempre estaba activo. Se grabaron 61 horas de la vida del niño, en las que estuvo expuesto a 250 000 palabras. Así ha sido como Sam ha servido para enseñar a hablar a las inteligencias artificiales. </p>
<p>Los bebés aprenden a hablar a una velocidad pasmosa. Antes de cumplir un año dicen su primera palabra y a los tres ya se defienden en el día a día con su lengua materna. Son la envidia de muchos adultos que quieren aprender un nuevo idioma y tardan mucho más en llegar a ese nivel, si lo consiguen. Y también son un modelo a seguir para la inteligencia artificial, que necesita muchos más datos para aprender un idioma. Por eso <a href="https://www.science.org/doi/10.1126/science.adi1374">un equipo de investigadores de la Universidad de Nueva York ha metido sus algoritmos en la piel de un bebé, Sam, para ver lo que son capaces de aprender</a>. No literalmente, claro: lo han hecho enseñándole al sistema vídeos grabados desde la perspectiva del niño, usando un casco con cámara. </p>
<p>Los resultados del estudio muestran que el sistema aprende palabras relacionándolas con las cosas que el niño ve y escucha en su vida diaria. Es un avance para construir inteligencias artificiales que aprendan de forma más eficiente y similar a como lo hacemos las personas. </p>
<h2>La ambigüedad, el sarcasmo y los chistes</h2>
<p>Las lenguas naturales (como el español o el inglés) son formas de comunicación que las personas desarrollamos espontáneamente. Esto las diferencia de las <a href="https://es.wikipedia.org/wiki/Lengua_construida">lenguas artificiales</a>, como los lenguajes de programación o el <a href="https://ve.scielo.org/scielo.php?script=sci_arttext&pid=S1317-58152005000100004">lenguaje matemático</a>, creadas a propósito para un fin. </p>
<p>Normalmente, en las lenguas artificiales todo tiene un significado único que no admite discusión: si decimos 1+1=2, no hay duda de qué queremos decir. Pero esto no es así en las <a href="https://www.wikiwand.com/es/Lenguaje_natural">lenguas naturales</a>: si decimos “nos vemos en el banco”, ¿hemos quedado en un asiento del parque o donde guardamos el dinero? La ambigüedad hace que las lenguas naturales sean especialmente difíciles para las máquinas. También por eso los chistes, la poesía y el sarcasmo dan problemas a los ordenadores.</p>
<h2>Desde la Guerra Fría</h2>
<p>Ya en la década de los 50 surgió el interés por que los ordenadores pudieran trabajar con lenguaje humano (por ejemplo, <a href="https://es.wikipedia.org/wiki/Experimento_de_Georgetown">el Experimento Georgetown,</a> para traducir entre inglés y ruso, de gran interés en la Guerra Fría). </p>
<p>Para lograrlo, lingüistas e informáticos describían <a href="https://theconversation.com/hemos-estudiado-medio-millon-de-palabras-en-busca-de-las-leyes-linguisticas-universales-133188">la estructura del idioma</a> escribiendo reglas sintácticas, basadas en las <a href="https://chomsky.info/">teorías de Chomsky</a>. Por ejemplo, una regla podría decir: una oración se compone de sujeto (que va primero) y predicado (que va después). Pero podían hacer falta miles de reglas. </p>
<p>Eran sistemas muy limitados: no resolvían bien la ambigüedad porque no tenían en cuenta el contexto.</p>
<h2>La limitación de aprender para una única función</h2>
<p>En los años 80 se produjo un avance importante con el uso de <a href="https://es.khanacademy.org/computing/ap-computer-science-principles/data-analysis-101/x2d2f703b37b450a3:machine-learning-and-bias/a/machine-learning-algorithms">algoritmos de aprendizaje automático</a>. Son algoritmos que aprenden mediante ejemplos como este: para traducir entre inglés y ruso, les damos miles de textos en inglés y sus traducciones al ruso. A partir de ahí, se las arreglan para detectar patrones y aprender por sí mismos a traducir textos nuevos. Esto hace su desarrollo más fácil (es más sencillo conseguir ejemplos que escribir una gramática) y mejora los resultados, porque pueden tener en cuenta el contexto. Pero mantiene una limitación: cada algoritmo así construido solo vale para una cosa. Por ejemplo, un sistema de traducción solo traduce, no puede resumir textos o responder preguntas. </p>
<h2>Los grandes modelos de lenguaje como ChatGPT</h2>
<p>El siguiente gran salto se dio a finales de la década de 2010: surgieron los <a href="https://theconversation.com/que-es-chatgpt-que-es-gemini-que-es-bard-219552">grandes modelos de lenguaje, la base de ChatGPT</a>. </p>
<p>Son sistemas que aprenden a predecir qué palabra es más probable que venga después. Por ejemplo, a partir de “los Estados Unidos de”, un modelo de lenguaje podría predecir “América”. Si después le pedimos que añada otra palabra, y otra, será capaz de generar un texto coherente. Para lograrlo basta con enseñarles muchos textos, por ejemplo descargados de Internet.</p>
<h2>¿Cuál es la utilidad de predecir la siguiente palabra?</h2>
<p>Los propios creadores de estos sistemas no lo imaginaban hasta que los vieron en acción. Para sorpresa de todos, al mejorarlos entrenándolos con más y más texto vieron que podían responder a preguntas y llevar a cabo tareas variadas, como traducir, resumir o incluso <a href="https://aclanthology.org/2023.findings-emnlp.966/">escribir de forma creativa</a>. Son <a href="https://culturacientifica.com/2023/04/12/emergencia-en-los-grandes-modelos-de-ia/">habilidades emergentes</a>: capacidades que los algoritmos de IA adquieren al hacerse más grandes y contar con más datos. </p>
<p>Nadie sabe muy bien cómo funcionan, y, de hecho, hay debate sobre si de verdad estos sistemas entienden algo. Algunos científicos defienden que <a href="https://dl.acm.org/doi/10.1145/3442188.3445922">actúan como simples loros</a>, imitando el lenguaje humano sin entender ni una palabra. Otros dicen que, a pesar de basarse en estadísticas sobre el texto que han visto, <a href="https://thegradient.pub/othello/">sí son capaces de entender su significado</a>.</p>
<p>Estos grandes modelos ya no están limitados a una tarea, pero traen problemas nuevos. Para entrenar un modelo como el último ChatGPT se usan billones de palabras, una cantidad descomunal de texto. Esto requiere ordenadores de gran potencia y memoria, algo solo al alcance de grandes empresas tecnológicas. Y encima, consumen mucha energía y <a href="https://es.wired.com/articulos/carrera-por-inteligencia-artificial-generativa-oculta-sucio-secreto">contaminan</a>.</p>
<h2>Aprender como un bebé</h2>
<p>Esto nos lleva de vuelta a Sam. <a href="https://www.aft.org/ae/spring2003/hart_risley">Los niños solo escuchan unas decenas de millones de palabras en sus tres primeros años de vida</a>, muchísimas menos que ChatGPT. Con eso les basta para defenderse en su idioma. </p>
<p>¿Por qué los sistemas de IA necesitan muchos más datos? Una de las claves es que los bebés pueden asociar las palabras con objetos y experiencias. Al señalar una pelota diciendo “pelota”, les ayudamos a saber qué significa la palabra. Los sistemas como ChatGPT no tienen esa ayuda, se las arreglan con los textos en bruto.</p>
<p>De ahí la relevancia del experimento con Sam. ¿Puede una IA aprender el lenguaje como lo hacen los bebés? Los resultados son prometedores y podrían llevar, en el futuro, a sistemas que necesiten muchos menos datos, energía y emisiones que los actuales.</p><img src="https://counter.theconversation.com/content/223110/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Carlos Gómez Rodríguez recibe fondos públicos del Consejo Europeo de Investigación (European Research Council, ERC: ERC-2022-POC2 101100615, SALSA), del MCIN/AEI y FEDER (SCANNER-UDC, PID2020-113230RB-C21) y Xunta de Galicia (ED431C 2020/11).</span></em></p>El experimento con un niño, Sam, para construir modelos de lenguaje que puedan usar las inteligencias artificiales, abre un nuevo camino al lenguaje de las máquinas.Carlos Gómez Rodríguez, Catedrático de Ciencias de la Computación e Inteligencia Artificial, Universidade da CoruñaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2217072024-02-09T05:43:38Z2024-02-09T05:43:38ZJohn von Neumann: la máquina y el cerebro de la persona más inteligente del siglo XX<p>El científico húngaro-americano János L. Neumann, que posteriormente adoptó el nombre anglosajón de John von Neumann, ha sido calificado en múltiples foros<a href="https://www.sciencetimes.com/articles/46356/20231004/smartest-man-who-lived-john-von-neumanns-dual-legacy-atomic.htm"> como una de las personas más inteligentes del mundo en el siglo XX.
</a></p>
<p>Pero ¿por qué von Neumann? ¿Por qué el más inteligente, incluso siendo contemporáneo de Einstein? </p>
<figure class="align-center zoomable">
<a href="https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="" src="https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&fit=clip" srcset="https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=501&fit=crop&dpr=1 600w, https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=501&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=501&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=630&fit=crop&dpr=1 754w, https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=630&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/573047/original/file-20240202-29-bnm1d5.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=630&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">János Neumann nació en Budapest en 1903. Fue un niño prodigio que a la edad de 6 años podía dividir mentalmente cifras de 8 dígitos, era capaz de aprenderse el listín telefónico y bromeaba con su padre en griego clásico.</span>
<span class="attribution"><a class="source" href="https://es.wikipedia.org/wiki/Archivo:John_von_Neumann_as_child.jpg">Wikimedia commons</a></span>
</figcaption>
</figure>
<p>La singularidad de John von Neumann estriba en que su obra nace de <a href="https://theconversation.com/maniac-de-benjamin-labatut-cuando-la-ciencia-abre-las-puertas-del-infierno-221151">un cerebro creativo y desbocado</a>, y afecta a todo lo que hoy somos. Tocó casi todos los campos de la ciencia, desde la biología a la física, las matemáticas, la economía o la computación. Y en todos ellos realizó contribuciones esenciales. </p>
<h2>La máquina de Neumann</h2>
<p>Basándose en los <a href="https://www.madrimasd.org/blogs/matematicas/2014/05/19/138132">desarrollos de Turing</a>, von Neumann hizo posible el primer ordenador tal y como hoy lo utilizamos. Diseñó la computadora que sirve como herramienta científica, con gran capacidad de memoria, y que actúa en función de las instrucciones que se le faciliten. La nube, el <em>big data</em> y también la inteligencia artificial son posibles gracias a von Neumann. </p>
<p>La máquina que desarrolló, MANIAC (acrónimo de su nombre en inglés Mathematical Analyzer, Numerical Integrator and Computer), nació en el Laboratorio Nacional de Los Álamos para realizar simulaciones en el proyecto de la detonación de la bomba H. Y MANIAC supuso un hito en la historia de la informática. La arquitectura von Neumann es la que se emplea hoy en cada PC doméstico y en los titánicos supercomputadores del mundo. </p>
<p>La máquina de von Neumann añadió una dimensión adicional a la computación: su memoria operaba de una forma bidimensional en lugar de la clásica estructura lineal ideada por <a href="https://www.biografiasyvidas.com/biografia/t/turing.htm">Alan Turing</a>. </p>
<p>Esta computadora fue, entre otras muchas cosas, la que inició <a href="https://www.divulgameteo.es/uploads/50-a%C3%B1os-predicci%C3%B3n-num%C3%A9rica.pdf">los pronósticos meteorológicos fiables</a>, que en aquel tiempo requerían de cálculos costosísimos. Es también la base del sistema actual de estudio del clima. </p>
<h2>La teoría de juegos para entender al ser humano</h2>
<p>Neumann fue uno de los desarrolladores de la <a href="https://cenexp.com/biblioteca/librerias/BAS/Bbasicas/CB43.pdf">teoría matemática de juegos</a>, que pudo extender y aplicar gracias al desarrollo de la computación. En la mente de von Neumann el <a href="https://www.unir.net/empresa/revista/teoria-de-juegos/">desarrollo de la teoría de juegos</a> permitiría conocer al ser humano, discernir matemáticamente qué elegimos y por qué lo hacemos.</p>
<p>Esta disciplina establece modelos matemáticos para entender sistemas cuyos individuos toman decisiones que se influyen mutuamente. <a href="https://economia3.com/teoria-juegos-que-es-importancia/">La economía, los mercados, la oferta y la demanda son parte de sus aplicaciones</a>. De este modo Neumann contribuyó a crear el gran paradigma de la matemática aplicada del siglo XX: el estudio y control de los fenómenos complejos. </p>
<p>Von Neumann y su máquina, y la teoría de juegos, <a href="https://www.acta.es/medios/articulos/cultura_y_sociedad/060115.pdf">nos plantean dilemas morales de difícil solución</a> como, por ejemplo, si es lícita la destrucción de personas si a cambio liberas a otras de la esclavitud, la opresión extrema o el fascismo. También nos cuestionan sobre el peso que la ética debe tener en el desarrollo de la ciencia. </p>
<p>Los parámetros personales de von Neumann hay que analizarlos desde sus orígenes: un judío en plena extensión del nazismo, y a la vez un húngaro que ve cómo su país es ocupado por la Unión Soviética.</p>
<h2>MAD: Destrucción Mutua Asegurada</h2>
<p>Von Neumann vivió en ese momento de la historia en la que físicos y matemáticos decidían la victoria en las guerras. Durante la Segunda Guerra Mundial, trabajó en el <a href="https://theconversation.com/lo-que-lograron-los-genios-de-los-alamos-y-la-pelicula-oppenheimer-no-cuenta-210739">Proyecto Manhattan</a>, el proyecto liderado por los Estados Unidos, con Oppenheimer como responsable científico, para desarrollar la bomba atómica.</p>
<p>Considerado como el científico con mayor poder político de su época, militarista, anticomunista y con empatía nula, fue el máximo responsable de la <a href="https://es.wikipedia.org/wiki/Estrategia_de_las_armas_nucleares#:%7E:text=La%20estrategia%20de%20la%20disuasi%C3%B3n,disuadir%20a%20un%20agresor%20potencial.">estrategia de disuasión nuclear estadounidense</a>, que cambió el panorama geopolítico del mundo para siempre. </p>
<p>La destrucción mutua asegurada (en inglés <a href="https://periodismoglobal.com/2022/02/28/destruccion-mutua-asegurada/#:%7E:text=MAD%2C%20loco%20en%20ingl%C3%A9s%2C%20es,y%20las%20potencias%20se%20destruir%C3%ADan.">Mutual Assured Destruction o MAD</a>) es la doctrina concebida por John von Neumann: cualquier uso de armamento nuclear por cualquiera de dos bandos opuestos podría resultar en la completa destrucción de ambos (atacante y defensor).</p>
<p>Un nacionalismo exacerbado (tanto local como global), junto con una falta de escrúpulos en la consecución de intereses de tipo económico y estratégico, hacen que una situación de este tipo sea perfectamente factible en la actualidad. </p>
<h2>La autoconciencia y los autómatas celulares</h2>
<p>La máquina de von Neumann es también el germen de la IA, que probablemente llevará al <a href="https://theconversation.com/inteligencia-artificial-riesgos-reales-frente-a-amenazas-hipoteticas-207942">establecimiento de algo similar a una autoconciencia, de la que algunos expertos nos están previniendo en los últimos meses</a>. </p>
<p>Si a esta cualidad le añadimos un soporte físico que todavía no imaginamos, y unas capacidades de cálculo, relación y procesado de la información infinitamente superiores a las nuestras, nos encontramos con una variedad de potenciales seres “digitales” cuya evolución es difícil de predecir. Estos seres digitales ocuparon la mente de John von Neumann en los últimos años de su vida en la forma de <a href="https://www.cs.us.es/%7Efsancho/Blog/posts/Automatas_Celulares.md.html#:%7E:text=Los%20aut%C3%B3matas%20celulares%20(AC)%20surgen,complicadas%20sobre%20una%20red%20rectangular.">autómatas celulares</a>. </p>
<p><a href="https://en.wikipedia.org/wiki/Nils_Aall_Barricelli">Nils A. Barricelli</a> trabajó la idea de auto-replicación que von Neumann ya había puesto sobre la mesa, y realizó, con la ayuda de MANIAC, experimentos donde entidades numéricas se reproducían con una cierta tasa de error, en un intento de refutar las <a href="https://es.wikipedia.org/wiki/Lamarckismo">teorías lamarquianas</a> sobre la evolución de las especies. </p>
<p><a href="http://www.librosmaravillosos.com/lacatedraldeturing/index.html">Barricelli ejecutó modelos de evolución en una computadora digital, y desarrolló organismos numéricos</a>, con propiedades sorprendentemente similares a las de los organismos vivos, en la memoria de una computadora de alta velocidad.</p>
<p>Von Neumann se dio cuenta de que la biología ofrecía el sistema de procesamiento de información más poderoso disponible y se preguntaba si era posible construir una máquina que produjese máquinas más complejas que ellas mismas. Máquinas que crearan otras máquinas, que a su vez se reproducirían en un bucle infinito. <a href="https://es.wikipedia.org/wiki/M%C3%A1quina_autorreplicante">Máquinas autoreplicables, algo que él llamó Kinematon</a>. Inteligencias artificiales capaces de aprender por sí mismas, evolucionar, como ya de hecho lo están haciendo. </p>
<p>Para von Neumann, el cerebro humano funcionaba igual que MANIAC, igual que un supercomputador, que podría descifrarse. En su inacabado libro, <a href="https://en.wikipedia.org/wiki/The_Computer_and_the_Brain"><em>The Computer and the Brain</em></a>, afirmaba que las computadoras y los seres humanos son, sencillamente, “diferentes clases de autómatas”. </p>
<p>Eugene Wigner, amigo y matemático húngaro, le describió así: </p>
<blockquote>
<p>“En este mundo solo hay dos tipos de personas: John von Neumann y el resto de nosotros”.</p>
</blockquote><img src="https://counter.theconversation.com/content/221707/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>María Antonia Navascués Sanagustín no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>John von Neumann ha sido considerado el hombre más inteligente del siglo XX, incluso superando a Albert Einstein. Estas son las razones.María Antonia Navascués Sanagustín, Investigadora en Matemática Aplicada, Universidad de ZaragozaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2211512024-01-15T21:42:32Z2024-01-15T21:42:32Z‘MANIAC’, de Benjamín Labatut: cuando la ciencia abre las puertas del infierno<figure><img src="https://images.theconversation.com/files/569272/original/file-20231113-19-y77vl9.jpg?ixlib=rb-1.1.0&rect=6%2C6%2C4109%2C2733&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">
</span> <span class="attribution"><span class="source">GM Pictures/Shutterstock</span></span></figcaption></figure><p>Hace poco más de 100 años, el sociólogo alemán <a href="https://en.wikipedia.org/wiki/Max_Weber">Max Weber</a> advirtió que el avance de la ciencia provocaría el “<a href="https://hscif.org/wp-content/uploads/2018/04/Max-Weber-Science-as-a-Vocation.pdf">desencanto</a>” del mundo. </p>
<p>Se refería a un mundo sin misterio, sin lo desconocido ni lo trascendente y, por tanto, sin sentido: un mundo regido por la sombría ley de lo que él denominaba “<a href="https://en.wikipedia.org/wiki/Instrumental_and_value_rationality">racionalidad instrumental</a>”, donde todo es un medio para alcanzar un fin y nada es un fin en sí mismo. </p>
<p>Weber temía que la ciencia y la tecnología redujeran la existencia humana al frío cálculo y al sentido práctico utilitario, y destruyeran cualquier actividad que no tuviera efectos inmediatos, mensurables y pragmáticos.</p>
<p><a href="https://www.anagrama-ed.es/libro/narrativas-hispanicas/maniac/9788433911001/NH_723"><em>MANIAC</em>, de Benjamin Labatut</a>, es un relato no del todo ficticio de los avances científicos desde que Weber lanzara su advertencia. Y, de un modo extraño e inquietante, muestra lo equivocada que fue su predicción.</p>
<figure class="align-right zoomable">
<a href="https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="" src="https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=237&fit=clip" srcset="https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=943&fit=crop&dpr=1 600w, https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=943&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=943&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=1185&fit=crop&dpr=1 754w, https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=1185&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/569331/original/file-20240115-25-7yyiwy.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=1185&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption"><em>MANIAC</em>, de Benjamín Labatut, publicado en España por Anagrama.</span>
<span class="attribution"><span class="source">Anagrama</span>, <a class="license" href="http://creativecommons.org/licenses/by/4.0/">CC BY</a></span>
</figcaption>
</figure>
<p>La ciencia que ha engendrado todo, desde las armas nucleares y la inteligencia artificial hasta Silicon Valley y la economía neoliberal, es cualquier cosa menos práctica y mundana. Se desarrolla en un nivel de abstracción matemática y especulación filosófica que sólo un pequeño puñado de seres humanos puede comprender. Funciona rompiendo todas las reglas del sentido común y todo lo que podría parecer útil en el mundo cotidiano, prosperando en sus incoherencias e irracionalidades. </p>
<p>De hecho, y como sugiere el título de Labatut, existe en la delgada frontera entre lo racional y lo irracional, ese lugar donde el pensamiento se convierte en locura, donde el mundo no pierde todo su sentido, como imaginó Weber, sino que se llena de infinitos significados, repleto de mensajes que sólo una mente paranoica podría discernir.</p>
<p>Si la ciencia cierra las puertas del cielo, podríamos decir que abre de par en par las puertas del infierno.</p>
<h2>Los límites de la lógica</h2>
<p>La novela de Labatut nos invita a considerar una serie de figuras de la historia de la ciencia del siglo XX cuyas vidas personales reflejaban la locura de lo que estaban descubriendo.</p>
<p>El físico austriaco <a href="https://thereader.mitpress.mit.edu/paul-ehrenfest-forgotten-physicist/">Paul Ehrenfest</a> no pudo evitar comparar la irracionalidad de la nueva ciencia con la irracionalidad del naciente régimen nazi. Su descenso a la locura le llevó, en 1933, a asesinar a su hijo discapacitado antes de suicidarse.</p>
<p>En 1931, el matemático y lógico <a href="https://en.wikipedia.org/wiki/Kurt_G%C3%B6del">Kurt Gödel</a> desarrolló los teoremas de incompletitud que instalaron una inconsistencia en la base de todas las matemáticas. A veces se dice que su psicosis debilitante no fue el efecto sino la causa de su hallazgo.</p>
<p>La ingeniera e informática autodidacta <a href="https://discover.lanl.gov/news/0323-von-neumanns-letters/">Klára Dan</a> estuvo detrás de algunos de los avances tecnológicos más importantes del siglo XX. En 1963, a los 52 años, condujo desde su casa de La Jolla (California) hasta la playa, donde se metió en las olas y se ahogó.</p>
<p>Pero para Labatut, la más convincente de estas figuras (hasta el punto de que la mayor parte de <em>MANIAC</em> consiste en un elaborado esbozo de su personaje) es el genio matemático húngaro Neumann János Lajos, o, como pasó a llamársele tras trasladarse a Estados Unidos, <a href="https://www.ias.edu/von-neumann">John von Neumann</a>.</p>
<p>Labatut presenta a von Neumann como “el ser humano más inteligente del siglo XX”. Y las pruebas de esta afirmación son numerosas. </p>
<p>Von Neumann <a href="https://en.wikipedia.org/wiki/MANIAC_I">inventó el ordenador moderno</a>, proporcionó los fundamentos matemáticos de <a href="https://en.wikipedia.org/wiki/Quantum_mechanics">la mecánica cuántica</a> y completó <a href="https://ahf.nuclearmuseum.org/ahf/profile/john-von-neumann/#:%7E:text=Von%20Neumann's%20principal%20contribution%20to,targets%20for%20the%20atomic%20bomb.">las ecuaciones necesarias para que la bomba atómica fuera posible</a>. </p>
<figure class="align-right zoomable">
<a href="https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="" src="https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=237&fit=clip" srcset="https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=778&fit=crop&dpr=1 600w, https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=778&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=778&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=978&fit=crop&dpr=1 754w, https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=978&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/554467/original/file-20231018-23-fobh3c.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=978&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">John von Neumann (1903-57).</span>
<span class="attribution"><a class="source" href="https://about.lanl.gov/lanl-resources/">Biblioteca Nacional de Los Álamos, vía Wikimedia Commons</a>, <a class="license" href="http://creativecommons.org/licenses/by/4.0/">CC BY</a></span>
</figcaption>
</figure>
<p>También fue el padre de la <a href="https://en.wikipedia.org/wiki/Game_theory">Teoría de Juegos</a>, clave en la economía neoliberal, pero que le sirvió para justificar la estrategia de la Guerra Fría de <a href="https://en.wikipedia.org/wiki/Mutual_assured_destruction">Destrucción Mutua Asegurada, o MAD</a>. Ésta proponía que la única manera de evitar la aniquilación de toda la existencia humana era armar a dos superpotencias con la capacidad de hacerlo muchas veces.</p>
<p>Von Neumann predijo y ayudó a adelantar la llegada de la era digital. Previó máquinas autorreproductoras, inteligencia artificial y la <a href="https://en.wikipedia.org/wiki/Technological_singularity">Singularidad</a>, ese momento mítico en el que la tecnología finalmente absorberá y subordinará a la humanidad.</p>
<p>Es difícil imaginar que solo una mente humana individual pueda estar detrás de gran parte del mundo tecnológico en el que todos vivimos ahora. Según cuenta Labatut, casi todos los que conocieron a von Neumann lo vieron como una especie diferente, una etapa superior de la evolución humana, un ser extraterrestre, incluso un dios.</p>
<p>“Hay dos clases de personas en este mundo”, le hace decir Labatut al colaborador de von Neumann <a href="https://en.wikipedia.org/wiki/Eugene_Wigner">Eugene Wigner</a> al principio de la novela: “Jansci von Neumann y el resto de nosotros”.</p>
<p>“La mayoría de los matemáticos demuestran lo que pueden”, declara Wigner un poco más tarde. “Von Neumann demuestra lo que quiere”.</p>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/kurt-godel-from-loopholes-and-dictators-to-the-incompleteness-theorems-72376">Kurt Gödel: from loopholes and dictators to the incompleteness theorems</a>
</strong>
</em>
</p>
<hr>
<h2>Una mente inhumana</h2>
<p>Para reforzar esta imagen de von Neumann como un dios, Labatut nunca escribe desde la perspectiva de von Neumann ni pretende tener acceso al funcionamiento interno de su mente. En lugar de ello, estructura su novela como una serie de relatos en primera persona, casi sin aliento, de quienes le conocieron o se encontraron con él, como el testimonio de los testigos de un milagro… o de una catástrofe.</p>
<p>Así, además de Wigner, nos hablan la madre de von Neumann, Margit Kann von Neumann, su hermano Nicholas Augustus von Neumann, su primera esposa Mariette Kövesi, su primer profesor <a href="https://en.wikipedia.org/wiki/George_P%C3%B3lya">George Pólya</a>, el matemático e ingeniero <a href="https://en.wikipedia.org/wiki/Theodore_von_K%C3%A1rm%C3%A1n">Theodore von Kármán</a>, el físico estadounidense <a href="https://en.wikipedia.org/wiki/Richard_Feynman">Richard Feynman</a>, el economista <a href="https://nl.wikipedia.org/wiki/Oskar_Morgenstern">Oskar Morgenstern</a>, y muchos más.</p>
<p>Todos parecen tener la misma impresión básica del hombre: un genio desconcertantemente grande, cuyos singulares poderes intelectuales parecían situarle más allá del bien y del mal, y le llevaban a despreciar la mera moralidad humana con insensible indiferencia.</p>
<p>Eso explica el entusiasmo con el que von Neumann se lanzó a las aplicaciones militares de sus ideas, y la desvergüenza con la que se convirtió, como dice Labatut, en “una mente de alquiler”, dispuesto a “cobrar honorarios exorbitantes por sentarse con gente de IBM, RCA, la CIA o la RAND Corporation, a veces durante no más de un par de minutos”. </p>
<p>Si von Neumann era un dios, no era en absoluto un dios cristiano benevolente. Se parecía más a los dioses griegos del Olimpo o al iracundo Yahvé del Antiguo Testamento. O tal vez fuera simplemente un demonio: voluntarioso, arbitrario y capaz de horribles actos de destrucción.</p>
<figure class="align-center zoomable">
<a href="https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="" src="https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=45&auto=format&w=754&fit=clip" srcset="https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=450&fit=crop&dpr=1 600w, https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=450&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=450&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=566&fit=crop&dpr=1 754w, https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=566&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/558195/original/file-20231107-23-oe546c.png?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=566&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">Richard Feynman.</span>
<span class="attribution"><a class="source" href="https://commons.wikimedia.org/wiki/File:Richard_Feynman_1959.png">Dominio público, vía Wikimedia Commons</a></span>
</figcaption>
</figure>
<h2>Dioses mecánicos</h2>
<p>Pero, a diferencia de la mayoría de los dioses, von Neumann no era inmortal. Como muchos de los que le rodeaban, murió trágicamente joven, poco después de cumplir 53 años, víctima de un virulento cáncer en el cerebro.</p>
<p>En <em>MANIAC</em>, Labatut sugiere que los algoritmos que ahora dominan gran parte de nuestras vidas podrían considerarse los descendientes de von Neumann. Son dioses mecánicos que no están sujetos a los límites de la carne y la sangre.</p>
<p>La novela tiene una especie de segundo acto, en el que Labatut deja atrás a von Neumann y narra la historia <a href="https://en.wikipedia.org/wiki/Go_(juego)">del antiguo juego Go</a>, y el momento en que las máquinas se volvieron capaces de vencer a los mejores jugadores humanos del mundo, <a href="https://en.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol">Lee Sedol</a> y <a href="https://en.wikipedia.org/wiki/AlphaGo_versus_Ke_Jie">Ke Jie</a>.</p>
<p>Para Labatut, el hecho de que las máquinas ganen sistemáticamente a los humanos en los juegos más complejos que podamos imaginar constituye un punto de inflexión fundamental. Sólo podemos temblar ante estos nuevos dioses del mismo modo que nuestros antepasados lo hacían ante los antiguos: con miedo y temor.</p>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/economic-theories-that-have-changed-us-game-theory-43633">Economic theories that have changed us: game theory</a>
</strong>
</em>
</p>
<hr>
<h2>El don de la ficción</h2>
<p>A pesar de estas fantasías apocalípticas, me gustaría sugerir que aquí también ocurre algo más, justo debajo de la superficie.</p>
<p><em>MANIAC</em> se presenta engañosamente como una recopilación de hechos y un relato de acontecimientos que sucedieron realmente. Pero no es eso en absoluto. Es una novela: la invención de otra gran mente, la de Labatut. </p>
<figure class="align-left zoomable">
<a href="https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="" src="https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=237&fit=clip" srcset="https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=1083&fit=crop&dpr=1 600w, https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=1083&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=1083&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=1361&fit=crop&dpr=1 754w, https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=1361&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/555209/original/file-20231023-15-i9mwwx.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=1361&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">Benjamin Labatut.</span>
<span class="attribution"><a class="source" href="https://commons.wikimedia.org/wiki/File:Julieta-Labatut_COLOR.jpg">AloysusAcker, via Wikimedia Commons</a>, <a class="license" href="http://creativecommons.org/licenses/by-sa/4.0/">CC BY-SA</a></span>
</figcaption>
</figure>
<p>Sitúa los hechos de la experiencia humana dentro de un contenedor de ficción. Los descubrimientos científicos y tecnológicos se engloban en algo más profundo: una historia.</p>
<p>En ese sentido, la forma ficticia de <em>MANIAC</em> desmiente su contenido apocalíptico. Puede que las máquinas dominen el mundo real, pero como atestigua la novela de Labatut, los humanos pueden inventar la ficción que domine esa dominación.</p>
<p>“Usted insiste en que hay algo que una máquina no puede hacer”, declaró una vez von Neumann, con su arrogancia característica. “Si me dice con precisión qué es lo que una máquina no puede hacer, entonces siempre podré fabricar una máquina que haga precisamente eso”.</p>
<p>“Bueno”, podríamos haber replicado, “lo que no puede hacer es nada sin que se le diga lo que tiene que hacer”. Lo que no puede hacer es lo que hace la novela de Labatut, de hecho todas las novelas, todas las ficciones, todas las historias: decirnos cosas que nunca pueden verificarse, crear verdades que no tienen un fundamento estable o tejer mundos enteros de la nada.</p><img src="https://counter.theconversation.com/content/221151/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Charles Barbour no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>En MANIAC, Benjamin Labatut cuenta la historia del “hombre más inteligente del siglo XX” y los límites entre la locura y la ciencia.Charles Barbour, Associate Professor, Philosophy, Western Sydney UniversityLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2187402024-01-09T18:51:29Z2024-01-09T18:51:29Z¿Qué aporta ChatGPT al deporte y a la Educación Física?<figure><img src="https://images.theconversation.com/files/567236/original/file-20231222-25-bfpmqx.jpg?ixlib=rb-1.1.0&rect=48%2C0%2C5414%2C3582&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">
</span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/closeup-on-healthy-sports-woman-fitness-1387118567">Alliance Images / Shutterstock</a></span></figcaption></figure><p>Un chatbot es un asistente basado en inteligencia artificial que se comunica en tiempo real con los usuarios mediante mensajes de texto o por voz. Aunque funcionan bien en las conversaciones y son capaces de responder inmediatamente, además de poseer una mayor cantidad de información, son cuantificablemente peores que los maestros reales en varias dimensiones pedagógicas. </p>
<p>En un área tan práctica como la educación físico-deportiva, la retroalimentación afectiva, las demostraciones físicas y la ayuda son elementos indispensables en los que la inteligencia artificial, todavía, no destaca sobre el ser humano. </p>
<p>Pero sí destaca la utilidad de los chatbots para promover hábitos saludables y sus posibilidades pedagógicas en Educación Física. </p>
<h2>Diagnósticos de debilidades e informes de progreso</h2>
<p>Los <em>chatbots</em> pueden ayudar a diagnosticar rápidamente las debilidades de cada deportista. Por ejemplo, responder preguntas sobre el nivel de actividad física, preferencias y limitaciones de una persona determinada e identificar áreas en las que carece de conocimiento o motivación para hacer ejercicio regularmente. Esto permite a los entrenadores diseñar programas de ejercicio personalizados.</p>
<p>También puede elaborar un informe detallado de su progreso en determinado desempeño deportivo. Estos informes pueden ayudar a los entrenadores a identificar las áreas en las que los deportistas están mejorando y en las que necesitan más atención. </p>
<p>ChatGPT ya crea planes de entrenamiento personalizados en minutos, adaptados a objetivos y limitaciones del cliente, como minimizar el impacto en lesiones deportivas. También facilita la creación de guiones detallados para vídeos que explican técnicas de entrenamiento o el uso de equipos de gimnasio.</p>
<h2>Desafíos inesperados y prevención de lesiones</h2>
<p>Los entrenadores pueden diseñar desafíos inesperados para los deportistas gracias a la inteligencia artificial. Por ejemplo, pueden utilizar el chatbot para crear rutinas de ejercicios sorpresa en función de las preferencias y capacidades individuales de los deportistas, generando así <a href="https://doi.org/10.1145/3527927.3532801">imprevisibilidad en la práctica deportiva</a>. </p>
<p>Esto mantendría el ejercicio físico emocionante y desafiante, alentando a los deportistas a participar de manera más activa en el ejercicio.</p>
<p>El chatbot también puede utilizarse en el campo de la atención médica para brindar orientación personalizada sobre prescripción de ejercicios físicos seguros y efectivos para personas con <a href="https://doi.org/10.1038/s41746-021-00464-x">condiciones médicas específicas</a>. </p>
<p>Por ejemplo, un deportista con problemas cardíacos, con obesidad o con alguna lesión física o sensorial puede interactuar con el chatbot para que le facilite un plan de ejercicios adaptado a sus necesidades médicas, garantizando un enfoque seguro para mejorar su salud a través del ejercicio físico.</p>
<h2>Posibilidades pedagógicas en Educación Física</h2>
<p>Las aportaciones de la inteligencia artificial en el ámbito escolar son parecidas a las anteriores. Se puede utilizar para: </p>
<ol>
<li><p>Analizar la técnica de los estudiantes y proporcionar retroalimentación en tiempo real para mejorar su compromiso y motivación. </p></li>
<li><p>Crear sistemas de puntuación y clasificación para torneos y competiciones deportivas. </p></li>
<li><p>Monitorear la participación y el compromiso de los estudiantes en la educación física. </p></li>
<li><p>Evaluar las respuestas emocionales y físicas de los estudiantes a diferentes formas de actividad física y deportes.</p></li>
</ol>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/es-posible-una-educacion-fisica-que-vaya-mas-alla-de-lo-puramente-fisico-206416">¿Es posible una educación física que vaya más allá de lo puramente físico?</a>
</strong>
</em>
</p>
<hr>
<p>Estos son algunos ejemplos de actividades en las que se puede contar con la ayuda de ChatGPT: </p>
<ol>
<li><p>Diseñar cierto número de actividades para trabajar la condición física para un nivel de curso determinado. </p></li>
<li><p>Diseñar un cuento motor (narración que combina una historia con actividad física que debe realizar el alumnado) con las características que le pidamos: duración, personajes, tipos de habilidades a desarrollar. </p></li>
<li><p><a href="https://www.researchgate.net/publication/365786306_GPT-3-driven_pedagogical_agents_for_training_children's_curious_question-asking_skills">Crear preguntas</a> sobre un texto para que los estudiantes respondan tras su lectura.</p></li>
<li><p>Crear juegos o concursos sobre alguna temática, por ejemplo, “Actúa como un profesor de Educación Física de primaria y haz un trivial sobre las escuelas gimnásticas mediante una lista de preguntas”. </p></li>
</ol>
<p>Por otro lado, se destaca el uso de ChatGPT en los cuatro bloques de contenidos más representativos de Educación Física:</p>
<ol>
<li><p><strong>Condición física y salud</strong>. Puede proporcionar información y asesoramiento en línea sobre salud y estado físico, como consejos de nutrición, recomendaciones de ejercicio y programas de entrenamiento personalizados. También puede ser utilizado para responder preguntas sobre temas relacionados con la salud y el estado físico, como la forma de prevenir lesiones y enfermedades relacionadas con la actividad física. O información sobre pruebas o test para evaluar alguna capacidad física básica</p></li>
<li><p><strong>Juegos y deportes</strong>. Se puede emplear para proporcionar retroalimentación y asesoramiento en línea sobre técnicas deportivas y habilidades específicas, como la técnica de lanzamiento en el baloncesto o el <em>swing</em> en el golf.</p></li>
<li><p><strong>Actividades en medio natural</strong>. Puede proporcionar información detallada sobre diferentes rutas y lugares de interés en el medio natural seguros o desafiantes. También se puede utilizar para dar recomendaciones sobre el equipo y los materiales necesarios para diferentes actividades en el medio natural.</p></li>
<li><p><strong>Expresión corporal</strong>. Puede aportar inspiración y sugerencias para ayudar a los estudiantes a ser más creativos en la implementación de técnicas de expresión corporal. Por ejemplo, puede asesorar sobre diferentes estilos de danza o formas de arte que pueden inspirar a los estudiantes a crear su propia obra. Por otro lado, también puede proporcionar contexto cultural e histórico para los movimientos y gestos que se utilizan en la expresión corporal. Por ejemplo, puede proporcionar información sobre la historia y la cultura detrás de ciertos tipos de bailes y danzas, lo que puede ayudar a los estudiantes a entender mejor su significado y contexto.</p></li>
</ol>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/la-brecha-de-genero-en-el-deporte-y-su-desarrollo-en-el-aula-187291">La brecha de género en el deporte y su desarrollo en el aula</a>
</strong>
</em>
</p>
<hr>
<h2>Limitaciones de uso</h2>
<p>Respecto a las limitaciones de uso de ChatGPT, existen sesgos incorporados de género, raciales y geopolíticos, lo que puede influir en sus respuestas y generar contenido sesgado. Asimismo, se destacan otros sesgos igualmente importantes:</p>
<ol>
<li><p>Falta de comprensión del mundo real: carece de contexto sobre el mundo fuera del lenguaje, como la interacción en el mundo real.</p></li>
<li><p>Sesgo de actualidad: los modelos de lenguaje pueden tener sesgo de actualidad, orientando las respuestas al contenido publicado más reciente, obviando la literatura de años anteriores.</p></li>
<li><p>Limitaciones en la estructura de entrada: en su versión gratuita no se pueden plantear documentos más extensos o entradas estructuradas, como tablas.</p></li>
<li><p>Incapacidad para corregirse a sí mismo: al ser un modelo autorregresivo, no puede corregir sus errores una vez que comienza a cometerlos, lo que puede llevar a una cascada de errores en el texto generado.</p></li>
</ol>
<p>Teniendo en cuenta que este tipo de programas funcionan con comandos o <em>prompts</em> (instrucciones, preguntas o textos que se emplean para interactuar con ellos) es necesario hacerlo teniendo en cuenta una serie de cuestiones.</p>
<p>Por último, señalar que ChatGPT empatiza con el usuario si se incorporan <a href="https://arxiv.org/pdf/2308.03656.pdf">señales emocionales</a> en el <em>prompt</em>, siendo más rápido y efectivo bajo presión, mencionando que es una situación urgente. En resumen, la instrucción debe ser clara y específica para obtener respuestas más precisas y útiles. Además, siempre es recomendable revisar y adaptar las respuestas generadas para asegurarse de que se ajusten a los estándares, niveles y requisitos educativos específicos.</p><img src="https://counter.theconversation.com/content/218740/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Joel Manuel Prieto Andreu no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Ejemplos de usos de la inteligencia artificial en la clase de educación física y en el deporte, además de consejos y advertencias para su uso correcto.Joel Manuel Prieto Andreu, Profesor universitario. Especialidad de Educación Física, UNIR - Universidad Internacional de La Rioja Licensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2199492024-01-08T21:27:13Z2024-01-08T21:27:13ZCuando nació la inteligencia artificial, la filosofía en español tuvo mucho que decir<figure><img src="https://images.theconversation.com/files/567298/original/file-20231222-27-tmxex2.jpg?ixlib=rb-1.1.0&rect=0%2C184%2C4752%2C2817&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">Mural 'El hombre en el cruce de caminos' de Diego Rivera.</span> <span class="attribution"><a class="source" href="https://commons.wikimedia.org/wiki/File:Mural._El_hombre_en_el_cruce_de_caminos._Diego_rivera_(1934).JPG">AAP86</a>, <a class="license" href="http://creativecommons.org/licenses/by-sa/4.0/">CC BY-SA</a></span></figcaption></figure><p>La inteligencia artificial (IA) se ha convertido, y no sin razón, en uno de los principales desafíos de nuestro tiempo. Sin embargo, algo que suele pasar muy desapercibido es que el mundo hispánico estuvo implicado de una manera muy directa en su nacimiento y desarrollo. O, mejor dicho, en el surgimiento de la cibernética: la ciencia de la que, a la postre, terminaría derivando la IA.</p>
<h2>México: el espacio para una amistad fructífera</h2>
<p>Concretamente, México fue el país que tuvo una vinculación más directa con el origen de la cibernética. Esta ciencia nació con la publicación por parte de <a href="https://es.wikipedia.org/wiki/Norbert_Wiener">Norbert Wiener</a>, en 1948, del libro <a href="https://en.wikipedia.org/wiki/Cybernetics:_Or_Control_and_Communication_in_the_Animal_and_the_Machine"><em>Cybernetics: or control and communication in the animal and the machine</em></a>, escrito en una de las múltiples estancias que <a href="https://books.google.es/books/about/Soy_un_matem%C3%A1tico.html?id=acx-AAAACAAJ&redir_esc=y">el matemático norteamericano</a> realizó en México a raíz de su cercana amistad y colaboración científica con el fisiólogo <a href="https://es.wikipedia.org/wiki/Arturo_Rosenblueth_Stearns">Arturo Rosenblueth</a>.</p>
<p>Ambos habían coincidido en Estados Unidos y allí habían empezado a colaborar fructíferamente. Sin embargo, el desarrollo de la II Guerra Mundial obligó a Rosenblueth a abandonar el país. Afortunadamente, <a href="https://dialnet.unirioja.es/servlet/articulo?codigo=281108">este hecho no truncó la colaboración entre ambos intelectuales</a>; más bien la incentivó. </p>
<p>Rosenblueth gozó de una excelente acogida en México, debido a la vigencia y auge de <a href="https://www.researchgate.net/publication/290500695_Elsa_M_Gracida_El_desarrollismo">las políticas desarrollistas en ciencia y tecnología implementadas por el presidente Lázaro Cárdenas pocos años atrás</a>. De esta manera, el científico mexicano no solo tuvo “carta blanca” para desarrollar sus proyectos sino también el liderazgo institucional para poner en marcha centros de investigación y de enseñanza superior en los que estos pudiesen ser transmitidos a la sociedad. </p>
<p>En este contexto, Wiener se convertiría en un visitante asiduo de México durante el tiempo que le restaba de vida, y trabajó activamente junto con Rosenblueth tanto en materia de investigación como en divulgación social. De hecho, Rosenblueth era miembro del Colegio Nacional, la más destacada institución de discusión científica y humanística de México. En ella expuso varias conferencias discutiendo trabajos en común con Wiener. </p>
<p>Todo esto muestra cómo la predecesora de la inteligencia artificial y sus fundadores gozaron de una importante acogida y apoyo institucional en México.</p>
<h2>México: el espacio para el debate</h2>
<p>Sin embargo, al igual que a día de hoy lo hace la IA, la cibernética también generó debate muy rápidamente. Y, en buena medida, un debate bastante bipolar. En este sentido, las críticas a la cibernética no tardaron en dejarse oír en el ámbito intelectual mexicano y, de una manera muy sonada, en el de la filosofía académica, en absoluto cercana en aquel momento a las cuestiones científicas y tecnológicas.</p>
<p>A ese respecto, <a href="https://www.filosoficas.unam.mx/%7Egaos/vida-obra.php">José Gaos</a> y <a href="https://dbe.rah.es/biografias/6965/eduardo-jose-gregorio-nicol-francisca">Eduardo Nicol</a> fueron quienes lideraron el discurso tecnófobo desde la filosofía. Ambos desarrollaron argumentos de gran hondura que han pasado desapercibidos frente a otras críticas mucho más conocidas y divulgadas como <a href="https://herdereditorial.com/la-pregunta-por-la-tecnica-9788425447396">las de Heidegger</a> o la escuela de Frankfurt, por citar algunos ejemplos. </p>
<figure class="align-right zoomable">
<a href="https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="Retrato de un hombre joven, con gafas y calvo." src="https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=237&fit=clip" srcset="https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=600&fit=crop&dpr=1 600w, https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=600&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=600&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=754&fit=crop&dpr=1 754w, https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=754&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/567297/original/file-20231222-19-vkcvv.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=754&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">Retrato de José Gaos.</span>
<span class="attribution"><a class="source" href="https://www.editorialrenacimiento.com/autores/1095__gaos-jose">Editorial Renacimiento</a></span>
</figcaption>
</figure>
<p>Gaos y Nicol fueron dos pensadores españoles que se habían exiliado en México a raíz de la Guerra Civil y la posterior victoria franquista. Sus trayectorias son muy diferentes tanto en lo biográfico como en lo académico, pero estas diferencias parecen diluirse, precisamente, en lo que al análisis de la cibernética o inteligencia artificial se refiere, <a href="https://www.tandfonline.com/doi/full/10.1080/01916599.2023.2258526">como hemos estudiado</a>.</p>
<p>Ambos autores coinciden en una tesis central y de gran vigencia hoy día: que la cibernética y su aplicación a los procesos humanos y sociales oculta un potencial deshumanizador que puede poner en peligro tanto el desarrollo de las facetas íntimas de las personas como la propia esfera deliberativa de la política. Ahora bien, sus líneas argumentales son diferentes aunque igual de originales.</p>
<p>Gaos afronta la cuestión <a href="https://www.filosoficas.unam.mx/catalogo/?publicaciones=obras-completas-xiv">desde un análisis crítico de la cultura contemporánea</a>. Entiende que la cibernética es el último coletazo de una tendencia a la mecanización, a sus ojos, inherente ya a la ciencia moderna que conduciría a una sustitución del orden de lo cualitativo por el de lo cuantitativo, reduciendo irremediablemente la dimensión social humana a una dimensión técnica. Este diagnóstico es muy parecido al desarrollado posteriormente por el filósofo y sociólogo <a href="https://www.ucm.es/idh/jurgen-habermas">Jürgen Habermas</a> en su libro <a href="https://www.icns.es/articulo_jurgen-habermas-ciencia-y-tecnica-como-ideologia"><em>Ciencia y técnica como ideología</em></a> (1968) o, en nuestros días, por la también socióloga <a href="https://es.wikipedia.org/wiki/Shoshana_Zuboff">Shoshana Zuboff</a>, quien alerta de la amenaza que supone la ingeniería de datos para la voluntad y libertad humanas. </p>
<p>Nicol, por su parte, <a href="https://nautilo.iib.unam.mx/Record/000006629">conecta la cibernética o inteligencia artificial con la cuestión de la amenaza ecológica</a>. Por aquel entonces se comenzaba a poner sobre la mesa el peligro de desaparición de la especie humana. Esto se vio reflejado en el <a href="https://es.wikipedia.org/wiki/Los_l%C3%ADmites_del_crecimiento">informe de 1972</a> encargado por el Club de Roma al Instituto de Tecnología de Massachusetts sobre los límites del crecimiento.</p>
<figure class="align-right zoomable">
<a href="https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="Retrato contrapicado de un hombre mayor con gafas y calvo, que fuma en pipa." src="https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=237&fit=clip" srcset="https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=600&fit=crop&dpr=1 600w, https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=600&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=600&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=754&fit=crop&dpr=1 754w, https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=754&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/567296/original/file-20231222-27-amc5yq.jpg?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=754&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">Retrato de Eduardo Nicol.</span>
<span class="attribution"><a class="source" href="https://www.gf.org/fellows/eduardo-nicol/">John Simon Gunggenheim Memorial Foundation</a></span>
</figcaption>
</figure>
<p>A ese respecto, Nicol desarrolla el original concepto de “razón de fuerza mayor”. Esto sería una forma de racionalidad basada y enfocada exclusivamente en la gestión eficiente de los recursos y de las poblaciones de cara a una situación de colapso civilizatorio producida por el crecimiento exponencial del número de personas y del índice de consumo. La cibernética sería, para él, la manifestación más perfecta de dicha forma de racionalidad. Esta ya no dejaría espacio para aquellos ámbitos típicamente humanos como son el de lo ético, lo sapiencial, lo político, etc., quedando el ser humano sumido en una extraña mezcla de mecanicismo y animalidad de la que difícilmente podría escapar. </p>
<p>De esta manera, podemos ver cómo el mundo hispánico no solo tuvo un protagonismo olvidado en el desarrollo de lo que hoy conocemos como IA. También participó de manera directa y original de esa especie de esquizofrenia que, en muchas ocasiones, nos asalta ante el potencial de la ciencia y la técnica que “tenemos entre manos”. </p>
<p>Entre elogios tecnófilos y críticas tecnófobas, esto nos distrae de la más acuciante realidad: la necesidad de hacerse cargo humana y políticamente de sus avances, siendo capaces de calibrar de forma concreta los indudables pros y contras de sus múltiples aplicaciones.</p><img src="https://counter.theconversation.com/content/219949/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Antolín Sánchez Cuervo recibe fondos de la Agencia Estatal de Investigación (Proyectos de Generación del Conocimiento 2022)</span></em></p><p class="fine-print"><em><span>José Manuel Iglesias Granda no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Con el auge de la cibernética, filósofos españoles emigrados en México comenzaron a reflexionar sobre el papel de la tecnología en el mundo.José Manuel Iglesias Granda, PhD Student, Consejo Superior de Investigaciones Científicas (CSIC)Antolín Sánchez Cuervo, Investigador Científico del Instituto de Filosofía del CSIC, Centro de Ciencias Humanas y Sociales (CCHS - CSIC)Licensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2188852024-01-01T20:23:13Z2024-01-01T20:23:13ZUn año de ChatGPT: ¿se han cumplido los pronósticos?<figure><img src="https://images.theconversation.com/files/567177/original/file-20231221-27-1657w0.jpg?ixlib=rb-1.1.0&rect=207%2C306%2C5803%2C3073&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">
</span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/chat-ai-artificial-intelligence-tech-concept-2284662057">The KonG / Shutterstock</a></span></figcaption></figure><p>El 30 de noviembre de 2023 se cumplió un año desde que Open AI lanzara uno de los productos digitales de mayor éxito y con mayor impacto social en los últimos tiempos: <a href="https://chat.openai.com/auth/login">Chat GPT</a>. </p>
<p>La aparición de una tecnología capaz de responder a nuestras preguntas y redactar textos altamente solventes disparó miedos y esperanzas dentro de la comunidad educativa. Para los más pesimistas, estas herramientas inteligencia artificial generativa (IAg) suponen un empobrecimiento del aprendizaje, puesto que facilitan resolver las tareas sin necesidad de pensarlas, e incluso favorecen el plagio. Para los más optimistas, la democratización de la IAg es una revolución sin precedente, y las posibilidades de desarrollar la creatividad y la innovación no tienen límites. </p>
<p>Un año después de su lanzamiento, toca hacer balance de qué miedos y esperanzas realmente se han materializado, que cosas han cambiado y cuáles pueden cambiar. </p>
<h2>¿Cuánto y cómo estamos usando la IAg en contextos educativos?</h2>
<p>Los últimos datos disponibles reflejan un crecimiento continuo aunque de forma desigual entre los diferentes sectores educativos. Un informe reciente elaborado en EEUU por <a href="https://tytonpartners.com/app/uploads/2023/10/GenAI-IN-HIGHER-EDUCATION-FALL-2023-UPDATE-TIME-FOR-CLASS-STUDY.pdf">Tyton Partners</a> indica que entre marzo y septiembre de 2023 los estudiantes universitarios han pasado de utilizar la IAg de un 27 % a un 49 %. En el caso del profesorado, durante el mismo periodo el incremento ha pasado de un modesto 9 % a un 22 %. </p>
<p>En otro informe elaborado por <a href="https://www.anthology.com/sites/default/files/2023-11/White%20Paper-KSA-UAE-AI%20in%20Higher%20Ed-Hype%20Harm%20or%20Help-v2_10-23.pdf">Anthology</a>, con una muestra más amplia que incluye 2.617 líderes universitarios y 2.728 estudiantes procedentes de países de los diferentes continentes (desde Arabia Saudí a Australia pasando por Brasil, España, México, Sudáfrica y Singapur) refleja una imagen parecida, aunque con matices. De acuerdo con este informe, a fecha de agosto del 2023, el 32 % de los estudiantes de Arabia Saudí y Emiratos Árabes Unidos informaron de un uso frecuente de la IAg (al menos semanalmente), una tasa tres veces más alta que los estudiantes de Estados Unidos y Reino Unido.</p>
<p>En cuanto a los usos, los docentes usan Chat GPT para diseñar materiales didácticos, traducción de idiomas o elaboración de rúbricas; mientras que los estudiantes lo hacen para resolver preguntas y tareas formuladas por el profesorado, resumir información o comprobar en qué medida se domina la materia. </p>
<p>Estudios <a href="https://www.mdpi.com/2227-7102/13/4/410">recientes</a> sobre los usos de Chat GPT en educación advierten que el nivel de fiabilidad de esta herramienta varía mucho en función de las áreas y las disciplinas donde se implementa: en áreas como economía o programación informática el rendimiento es bueno, mientras que no ha funcionado tan adecuadamente en medicina o psicología. Estos resultados hay que considerarlos con precaución, puesto que el rendimiento de la IAg evoluciona a gran velocidad y depende en gran medida de la tarea concreta que se le solicite.</p>
<p>A pesar de las implicaciones educativas, un informe de la <a href="https://www.unesco.org/en/articles/unesco-survey-less-10-schools-and-universities-have-formal-guidance-ai">UNESCO</a> alerta de que tan solo un 10 % de las 450 escuelas y universidades analizadas presentan una guía formal para profesorado y estudiantes sobre el uso de la IAg en el aula.</p>
<h2>Del desconocimiento a un uso responsable y reflexivo</h2>
<p>A pesar de la corta vida de la IAg, la forma de usarla evoluciona a medida que pasa el tiempo y adquirimos experiencia. Así, podemos diferenciar tres etapas. </p>
<p><strong>1. Desconocimiento</strong>. En la primera etapa, donde aún se sitúa la gran mayoría de docentes (casi ocho de cada diez, según el informe de Tyton Partners), no existe relación alguna entre usuario e IAg. El profesor o profesora probablemente haya escuchado o visto noticias acerca de la irrupción de estas herramientas, pero por diversos motivos (falta de tiempo, interés, incentivos, etc.) no ha tenido la oportunidad de explorarlas e interactuar con ellas. Se trata de una fase de desconocimiento.</p>
<p><strong>2. Exploración</strong>. En una segunda etapa, una vez superado el obstáculo inicial que supone un primer acercamiento, el usuario descubre, a menudo con sorpresa, las posibilidades que estas herramientas pueden llegar a ofrecer. Se trataría de una fase de exploración, donde el docente o estudiante experimenta con las diferentes funcionalidades de forma poco ordenada y sin un criterio claramente definido. </p>
<p>Un ejemplo de esta etapa lo encontramos cuando formulamos preguntas a la IAg sin objetivo concreto, improvisando en función de las respuestas obtenidas por la IAg y sin manera de evaluar la calidad de sus respuestas (la calidad de una respuesta se mide en función del objetivo que se haya definido previamente). </p>
<p>En este sentido, se establece una relación bidireccional entre el usuario y la IAg, pero es esta última la que ejerce un mayor control sobre dicha interacción. </p>
<p>Muchos de los miedos educativos, como el empobrecimiento del pensamiento y el aprendizaje como consecuencia del uso de la IAg emergen en esta etapa (por ejemplo: “Tengo miedo de que mis estudiantes dejen de pensar porque la IAg pensará por ellos”). </p>
<p><strong>3. Dominio</strong>. Solo cuando reflexionamos sobre lo que hacemos pasaríamos a la tercera y última etapa, que podemos llamar de dominio. </p>
<p>Aquí, el usuario es capaz de interactuar con la IAg, ejerciendo un control sobre la misma (y no al revés). En este sentido, el usuario tiene un objetivo claramente definido, un propósito y un sentido. Puede responder a preguntas como ¿por qué estoy utilizando la IAg? ¿Qué me aporta en este contexto? ¿Me ayuda a complicar o simplificar el mundo? En definitiva, en este caso la IAg responde a las necesidades del profesor o estudiante, y no al revés. </p>
<p>Es aquí, en esta tercera etapa de dominio, donde las posibilidades y esperanzas puestas en la IAg como herramientas de aprendizaje tienen mayor probabilidad de cristalizar, donde sus posibilidades creativas se materializan. </p>
<p>Sin embargo, el reto se encuentra en los números. Con solo dos de cada diez profesores explorando activamente las posibilidades de la IAg, difícilmente pasaremos de las promesas a las realidades. </p>
<p>Docentes, estudiantes y también las familias debemos dialogar y crear espacios comunes que nos permitan transitar desde el desconocimiento hasta el dominio responsable y comprometido de estas herramientas.</p><img src="https://counter.theconversation.com/content/218885/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Carlos de Aldama no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Los miedos y las esperanzas que generó la aparición de ChatGPT chocan con un uso no generalizado y poco experto.Carlos de Aldama, Profesor e investigador especializado en Psicología del Pensamiento y de la Educación, Universidad Complutense de MadridLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2201822023-12-28T17:12:08Z2023-12-28T17:12:08ZCiencia 2023: el año más arriesgado de nuestras vidas<figure><img src="https://images.theconversation.com/files/567314/original/file-20231224-15-lie4z1.jpg?ixlib=rb-1.1.0&rect=0%2C0%2C3570%2C2376&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">
</span> <span class="attribution"><span class="source">Shutterstock</span></span></figcaption></figure><p>Todos a una. En masa, millones de personas colapsamos ChatGPT cuando llegó al mundo, y así comenzó el año más arriesgado de nuestras vidas. </p>
<p>La inteligencia artificial (que ya vapulea humanos desde hace décadas jugando al ajedrez) se coló en todas las sopas. 2023 ha sido el año en que los expertos han firmado por primer vez en la historia un <a href="https://futureoflife.org/open-letter/pause-giant-ai-experiments/">manifiesto para detener un avance científico</a>. El año en que la revista <a href="https://www.agenciasinc.es/Noticias/Nature-amplia-su-lista-de-las-diez-personas-mas-relevantes-en-ciencia-de-2023-para-incluir-a-ChatGPT"><em>Nature</em> ha incluido a una <em>máquina</em> en la lista de las personas más influyentes del año</a>.</p>
<p>Robert Oppenheimer, uno de los padres de la bomba atómica que el cine ha traído a la actualidad este año, dijo sobre su invento: “Sabíamos que el mundo no sería el mismo”. Lo contaba Víctor Javier Llorente Lázaro, investigador de la Universidad de Granada, en su artículo <a href="https://theconversation.com/lo-que-lograron-los-genios-de-los-alamos-y-la-pelicula-oppenheimer-no-cuenta-210739">sobre Los Alamos en The Conversation</a>. Hoy los expertos y expertas en IA reproducen permanentemente esa misma frase cuando les consultan: <a href="https://theconversation.com/el-lugar-que-ocupa-la-inteligencia-artificial-en-el-futuro-del-trabajo-198545">el mundo ya ha empezado a no ser el mismo</a>. </p>
<h2>El lado oscuro</h2>
<p>2023 quedará señalado como <a href="https://theconversation.com/esto-es-lo-que-la-ley-de-la-ia-considera-riesgo-inadmisible-220084">el año en que se llegó al primer acuerdo internacional para regular la inteligencia artificial</a>. Pero… ¡quién dijo leyes!</p>
<p>Sergio Travieso Teniente, de la Universidad Francisco de Vitoria, inicia así su artículo <a href="https://theconversation.com/los-prompts-que-hacen-que-la-ia-se-salte-los-limites-legales-215739">“Los <em>prompts</em> que hacen que la IA se salte los límites legales”</a>:</p>
<blockquote>
<p>“Desde fabricar una bomba atómica a desnudar a las protagonistas de una foto… Los <em>prompts</em> (instrucciones, preguntas o textos) que consiguen forzar a la inteligencia artificial para que se salte los límites legales están presentes en foros abiertos”. </p>
</blockquote>
<p>ChatGPT, además, miente. Y sus desarrolladores no saben por qué lo hace ni cómo lo hace. Cajas negras, alucinaciones… </p>
<p>Manuel Martín-Loeches, neurocientífico de la Universidad Complutense de Madrid, explica en un artículo revelador que <a href="https://theconversation.com/el-cerebro-humano-no-busca-la-verdad-una-explicacion-cientifica-a-por-que-mentimos-214810">el cerebro humano no busca la verdad</a>, sobrevivimos bien en la mentira, así que no basta que mienta para condenar a ChatGPT.</p>
<p>Ni siquiera el notición de que la NASA ha abierto este año a la ciencia el estudio de los FANI (antes OVNIS) <a href="https://theconversation.com/fenomenos-aereos-no-identificados-una-realidad-abierta-a-la-ciencia-218481">(algo que explica muy bien el experto en astrobiología de la Universidad Complutense de Madrid Jesús Martínez-Frías)</a> ha quitado protagonismo al misterio de la IA. </p>
<p>Pero sería injusto no mencionar al menos sus bondades. Los logros de la inteligencia artificial se suceden a pasos agigantados en ciencia, en todas las disciplinas. Su empuje puede lograr transformaciones radicales que permitan un mundo mejor. Solo por poner un ejemplo, José Manuel Torralba, subdirector del Instituto IMDEA Materiales, describe <a href="https://theconversation.com/una-propuesta-imaginativa-para-reciclar-toda-la-basura-electronica-del-mundo-218543">una propuesta imaginativa para reciclar toda la basura electrónica del mundo</a>. </p>
<p>Pero la humanidad ha tomado conciencia de la oscuridad detrás de un avance que no alcanza a comprender. <a href="https://www.anagrama-ed.es/libro/narrativas-hispanicas/maniac/9788433911001/NH_723"><em>MANIAC</em>, de Benjamín Labatut</a>, posiblemente el libro más influyente de 2023, lo cuenta bien. El autor chileno ahonda en las tripas de la inteligencia artificial, de su toxicidad. </p>
<h2>A la sombra de ChatGPT</h2>
<p><em>Nature</em> ha incluido a ChatGPT en su lista de personas del año. Sin embargo, el telescopio James Webb, a pesar de tener nombre humano, se ha quedado con un papel secundario en 2023. </p>
<p>Las imágenes obtenidas por el James Webb están escribiendo páginas nuevas en la comprensión del cosmos y el origen de la vida. </p>
<p>Josep M. Trigo Rodríguez, investigador del ICE-CSIC, cuenta en The Conversation <a href="https://theconversation.com/el-telescopio-james-webb-revela-como-llego-el-agua-a-la-tierra-primitiva-217414">cómo el supertelescopio ha permitido explicar la llegada del agua a la Tierra primitiva</a>; James Webb <a href="https://theconversation.com/el-telescopio-james-webb-detecta-moleculas-organicas-complejas-cerca-del-big-bang-206890">ha detectado moléculas complejas en las inmediaciones del <em>big bang</em></a> y ha permitido resolver <a href="https://theconversation.com/el-misterio-de-los-jumbos-los-mundos-errantes-que-desafian-las-teorias-astronomicas-216547">el misterio de los JuMBOs</a>, mundos errantes que desafían las teorías astronómicas, como explica Enric Palle, profesor de investigación del Instituto de Astrofísica de Canarias. </p>
<p>James Webb nos regaló este año, además, <a href="https://theconversation.com/la-imagen-mas-completa-del-universo-incluida-una-estrella-monstruosa-217527">la imagen más completa del universo</a> (incluida una estrella monstruosa), que describe Óscar del Barco novillo, profesor de la universidad de Murcia.</p>
<figure class="align-center zoomable">
<a href="https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=45&auto=format&w=1000&fit=clip"><img alt="" src="https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=45&auto=format&w=754&fit=clip" srcset="https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=45&auto=format&w=600&h=612&fit=crop&dpr=1 600w, https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=30&auto=format&w=600&h=612&fit=crop&dpr=2 1200w, https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=15&auto=format&w=600&h=612&fit=crop&dpr=3 1800w, https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=45&auto=format&w=754&h=769&fit=crop&dpr=1 754w, https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=30&auto=format&w=754&h=769&fit=crop&dpr=2 1508w, https://images.theconversation.com/files/566681/original/file-20231219-29-i3ffem.png?ixlib=rb-1.1.0&q=15&auto=format&w=754&h=769&fit=crop&dpr=3 2262w" sizes="(min-width: 1466px) 754px, (max-width: 599px) 100vw, (min-width: 600px) 600px, 237px"></a>
<figcaption>
<span class="caption">La primera imagen de campo profundo de James Weeb.</span>
<span class="attribution"><a class="source" href="https://stsci-opo.org/STScI-01G8H1NK4W8CJYHF2DDFD1W0DQ.png">NASA/Telescopio James Webb</a>, <a class="license" href="http://creativecommons.org/licenses/by/4.0/">CC BY</a></span>
</figcaption>
</figure>
<h2>Desentrañar secretos</h2>
<p>El gran misterio de este año es que ChatGPT aprenda solo. No tiene secreto rival. Pero hay otros enigmas que llevan con nosotros desde que el primer ser humano se preguntó: ¿qué hago yo aquí?</p>
<p>¿Por qué hay todo y no nada? ¿Por qué existimos? Desvelar los misterios más primitivos impulsa el desarrollo de artefactos que no hay guionista de ciencia ficción que alcance a imaginar. Clara Cuesta, investigadora en CIEMAT, describe <a href="https://theconversation.com/la-sensibilidad-de-dune-el-experimento-bajo-tierra-para-cazar-neutrinos-mas-sofisticado-del-mundo-215901">la sensibilidad de Dune, el experimento bajo tierra para cazar neutrinos más sofisticado del mundo</a>. También es empeño de CIEMAT conseguir la energía del futuro, y Carlos Hidalgo, director del laboratorio de fusión, explica en The Conversation cómo avanza <a href="https://theconversation.com/stellarator-el-generador-de-estrellas-avanza-en-la-carrera-por-la-fusion-nuclear-213631">Stellarator, el “generador de estrellas”</a>, en la carrera por la fusión nuclear. </p>
<p>Nada estira más el límite de la imaginación que esa<a href="https://theconversation.com/una-lluvia-imperceptible-de-rayos-cosmicos-207287"> lluvia imperceptible de rayos cósmicos, “una tormenta muda”, como la describe José Edelstein</a>, que atraviesa cada centímetro cuadrado de nuestro planeta y nuestro cuerpo por los poros invisibles de la naturaleza.</p>
<p>Pero el bingo en física de partículas de este año ha sido para <a href="https://theconversation.com/los-indicadores-apuntan-al-vacio-local-como-origen-de-amaterasu-el-rayo-cosmico-ultraenergetico-que-desconcierta-a-los-cientificos-218559">Amaterasu, un rayo cósmico ultraenergético</a> que desconcierta a los científicos porque su origen, según los datos, es un área extraña en el borde de la galaxia, un área en la que no hay nada: el vacío local. </p>
<h2>A pie de Tierra</h2>
<p>En 2023 The Conversation también ha recogido ciencia a pie de Tierra. Por ejemplo, diferentes autores han explicado <a href="https://theconversation.com/pimientos-de-padron-por-que-unos-pican-y-otros-no-207061">por qué algunos pimientos de Padrón pican y otros no</a>, <a href="https://theconversation.com/por-que-ahora-impactan-menos-insectos-en-el-parabrisas-del-coche-213571">por qué ahora se estampan menos mosquitos en el parabrisas del coche</a>, <a href="https://theconversation.com/descubierto-el-peligroso-gusano-de-neon-215955">las particularidades del gusano de neón</a> y <a href="https://theconversation.com/la-luna-no-tiene-cielo-219159#:%7E:text=En%20la%20Luna%20no%20se,le%20convenga%20en%20cada%20ocasi%C3%B3n.">el cielo de la Luna</a>.</p>
<p>Al fin y al cabo este ha sido aún un año humano, y contamos con una esperanza inmensa, que puso en letras María Martinón-Torres, directora del CNIEH: <a href="https://theconversation.com/no-somos-una-especie-violenta-pese-a-lo-que-digan-las-noticias-217398">“No somos una especie violenta, pese a lo que digan las noticias”</a>. Somos, esencialmente, buena gente, y la inteligencia artificial está creada a nuestra imagen y semejanza.</p><img src="https://counter.theconversation.com/content/220182/count.gif" alt="The Conversation" width="1" height="1" />
Lo más destacado en ciencia en el año 2023 en The Conversation.Lorena Sánchez, Coordinadora de Cursos y Eventos. Editora de Ciencia y TecnologíaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2187232023-12-27T22:43:45Z2023-12-27T22:43:45ZChatGPT no hace magia<p>ChatGPT se ha ido popularizando a lo largo del año 2023. Su capacidad para generar contenidos, con una serie de instrucciones textuales previas, no necesariamente muy extensas, ha causado tanto asombro como desesperación en el entorno educativo. </p>
<p>En el mundo académico (colegios, institutos, centros de formación profesional y universidades) ha habido preocupación al pensar que un <em>chatbot</em> generativo podría sustituir al completo o partes de la labor educativa, desincentivar el esfuerzo de los alumnos o dar resultados falsos de excelencia ante la sociedad y el mercado de trabajo.</p>
<p>Muchos estudiantes pueden pensar que gracias a ChatGPT (o alguna de sus alternativas, como Google Bard u Opera Aria) pueden hacer sus tareas en poco tiempo (o resolver pruebas de examen sin ningún esfuerzo mental considerable). Pero no es tan sencillo.</p>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/como-evaluar-a-los-estudiantes-en-tiempos-de-chatgpt-206371">Cómo evaluar a los estudiantes en tiempos de ChatGPT</a>
</strong>
</em>
</p>
<hr>
<h2>Saber lo que se pregunta</h2>
<p>La piedra angular de la IA generativa es el <em>prompting</em>, que viene a ser la elaboración de instrucciones para la posterior generación de contenido (audiovisual o textual) a raíz del modelo de datos que se haya entrenado e integrado en la correspondiente aplicación.</p>
<p>Las instrucciones pueden presentarse en distintos formatos: razonamiento encadenado, verificación de lo enunciado, secuencia de pregunta-respuesta hasta obtener resultado final o mero complemento de indicaciones o ejemplos (observaciones).</p>
<p>Dicho esto, la persona tiene que saber qué quiere obtener por medio del programa (mejor dicho, aquello que quiere que se genere). De hecho, aunque le presente el contexto, tiene que marcarle una especie de ruta o secuencia. </p>
<h2>Encauzar, enmarcar y contextualizar</h2>
<p>Por ejemplo, si se quiere plantear la resolución de un problema matemático, hay que indicarle bien el contexto así como marcarle con el grado de precisión necesario las restricciones que permitan encauzar el rumbo de la interpretación. Especificar si se trata de un estudio probabilístico o si debe buscar cierta ayuda al programar con cierto código.</p>
<p>Toda respuesta ha de ser revisada. No solo de cara a las posibles “alucinaciones”. Estos errores que dan lugar a una respuesta fuera de sí pueden producirse por “culpa nuestra”, pero no siempre: también surgen cuando el modelo no está suficientemente entrenado. </p>
<p>Pero es que además, la respuesta requiere una revisión en la medida en la que se necesita comprender la base para continuar con desarrollos posteriores.</p>
<p>En definitiva, si no se sabe lo que se pregunta ni lo que se va generando es difícil hacer un uso realmente rentable y productivo de estas soluciones generativas. </p>
<h2>Ahorrar tiempo, pero no esfuerzo</h2>
<p>Por esos motivos, los estudiantes pueden ahorrar tiempo en escribir o hacer una demostración matemática, pero no dejan de esforzar su mente. Veamos unos ejemplos de uso concretos:</p>
<ol>
<li><p>Si se redacta un trabajo científico, se puede pedir a ChatGPT una revisión, sobre todo si está en inglés, para que adapte nuestro texto a un registro más formal, próximo al nativo y adaptado a la expresión habitual en ciertas publicaciones de prestigio.</p></li>
<li><p>Si alguien quiere tener un resumen de contenidos que le ayuden a prepararse para un examen centrándose en lo más importante, puede preguntarle al programa sobre los aspectos principales acerca de un tema (por ejemplo, el concepto y funcionamiento tipológico del metabolismo).</p></li>
<li><p>Si alguien quiere resolver un complejo caso práctico de <em>marketing</em>, puede plantear preguntas que le sirvan para obtener indicaciones que marquen el camino de cálculo. Por ejemplo, identificando una distribución de probabilidad discreta sobre la cual hayamos de hacer cálculos a posteriori.</p></li>
</ol>
<hr>
<p>
<em>
<strong>
Leer más:
<a href="https://theconversation.com/sera-chatgpt-el-disruptor-que-necesita-el-mundo-academico-201057">¿Será ChatGPT el disruptor que necesita el mundo académico?</a>
</strong>
</em>
</p>
<hr>
<p>Por estos motivos, ChatGPT, lejos de ser un “mago” que resuelve problemas, es una importante oportunidad para que el alumnado refuerce su espíritu crítico, su capacidad de contraste y sus dotes de análisis e investigación.</p><img src="https://counter.theconversation.com/content/218723/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Ángel Manuel García Carmona no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>El miedo de ser sustituidos por ChatGPT o de que los alumnos dejen de esforzarse está infundado. Esta tecnología requiere de conocimientos y capacidad crítica para usarla provechosamente.Ángel Manuel García Carmona, Profesor asociado de Matemáticas y Ciencia de datos, Universidad CEU San PabloLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2196322023-12-21T18:26:12Z2023-12-21T18:26:12Z¿Le daría usted un escaño en el Parlamento a una inteligencia artificial?<figure><img src="https://images.theconversation.com/files/567100/original/file-20231221-21-oz1u4y.jpg?ixlib=rb-1.1.0&rect=170%2C44%2C5820%2C2946&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">
</span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-illustration/cyberpunk-80s-style-emotional-speaker-robot-1373146904">studiostoks/Shutterstock</a></span></figcaption></figure><p>En esta era de transformación tecnológica y social, la inteligencia artificial conquista cada vez más tareas hasta ahora reservadas a los humanos. Pero ¿hasta dónde debe llegar? Por ejemplo, ¿le daría usted un escaño en el Parlamento a una inteligencia artificial?</p>
<p>Realizamos esta pregunta a un total de 90 personas en las <a href="http://www.divulgacioninnovadora.com/jornadas-di-2023-ciencia-de-tu-a-tu/">Jornadas de Divulgación Innovadora D+i</a>, un evento de divulgación celebrado en Zaragoza. El público tenía que contestar “sí” o “no” y aportar una pequeña explicación. </p>
<p>Se trataba de un público bastante receptivo con la inteligencia artificial, pero el resultado es bastante concluyente: un 78 % de los que respondieron no se lo otorgarían. Tras la mesa redonda compartida por los autores de este artículo, se les invitó a volver a responder a la misma pregunta. Y parece que el debate generado hizo que algunos asistentes cambiasen su opinión, ya que en la nueva votación 3 de cada 10 personas sí le darían el escaño a la inteligencia artificial (el sí aumentó desde el 22 % original a un 30 %). Realmente, disponer de información puede hacer que modifiquemos nuestra opinión, aunque cambiar de parecer sea <a href="https://www.nationalgeographic.com.es/ciencia/por-que-es-tan-dificil-cambiar-opinion_15051">una de las cosas más complicadas para el ser humano</a>. </p>
<p>A continuación, pedimos a una inteligencia artificial cuantitativa (la versión 4 de ChatGPT) que hiciese un resumen de las opiniones de los participantes. Entre los argumentos a favor de dar un escaño en el Parlamento a una inteligencia artificial destacaba una mayor objetividad y la oferta de una nueva perspectiva del debate político. Sin embargo, la mayor parte de las respuestas, contrarias a otorgarle el escaño, se centraron en los miedos por la falta de desarrollo y los problemas derivados de la manipulación o los sesgos. </p>
<p>En resumen, hay dos razones fundamentales para negarle el “derecho al voto” a la inteligencia artificial: la pérdida que supone para el ser humano y la incertidumbre que aún genera la IA. </p>
<h2>El humano ante la IA</h2>
<p>Aunque se lleva investigando desde mediados del siglo pasado, el usuario medio supo que se estaba usando la inteligencia artificial hace apenas un año, con el lanzamiento de ChatGPT 3. Y eso es muy poco tiempo para que nos acostumbremos a una herramienta tan poderosa.</p>
<p>De hecho, <a href="https://assets.kpmg.com/content/dam/kpmg/es/pdf/2023/10/kpmg-global-tech-report-2023-espana.pdf">según un estudio de KPMG</a>, en España únicamente un 8 % de de empresas admiten haber integrado la IA de forma proactiva en los procesos diarios. Y tenemos la percepción de que este porcentaje es menor en el ámbito personal (aunque no tenemos datos que lo corroboren).</p>
<h2>La debilidad de la IA</h2>
<p>En cuanto a la propia inteligencia artificial, efectivamente esta tecnología está aún muy inmadura para una tarea de tantísima responsabilidad. Ahora mismo se habla de IA débil o estrecha. </p>
<p>Esto quiere decir que es muy buena en una tarea concreta, superando incluso a la habilidad humana, como ocurre por ejemplo jugando al ajedrez. Sin embargo, esta inteligencia artificial débil no es capaz de generalizar a otras tareas, como hacemos los humanos –y como hace lo que se conoce como inteligencia artificial fuerte o general–. </p>
<p>Por ejemplo, ChatGPT es muy bueno con todo lo relacionado con el lenguaje, pero comete muchos errores si le pedimos <a href="https://www.forbesargentina.com/innovacion/descubren-chatgpt-puede-sumar-dos-numeros-nacen-planteos-sobre-sus-limites-intrinsecos-n35633">operaciones matemáticas simples</a>.</p>
<p>Volvamos a la pregunta del debate: ¿le daría un escaño en el Parlamento a una inteligencia artificial? </p>
<p>Es cierto que los seres humanos nos equivocamos y hacemos elecciones basadas en la pasión, en la irracionalidad, nos creemos mentiras o falsas promesas. Y también es verdad que la política no vive su mejor momento ni en España ni el resto de los países de nuestro entorno (<a href="https://www.cis.es/documents/d/cis/es3427mar_a">según el CIS</a>, es el problema que mayor porcentaje de españoles considera en primer lugar).</p>
<p>Pero, aún así, somos las personas quienes tenemos la capacidad para equivocarnos. Podemos darnos cuenta de los errores e, incluso, volvernos a equivocar. Ésa es la esencia de la libertad que tenemos. </p>
<p>Es posible que una inteligencia artificial puede llegar a cometer menos errores (todavía no es así), pero ¿estaríamos dispuestos a sacrificar nuestra capacidad de decidir porque una inteligencia “superior” (que se equivoca menos) pueda beneficiarnos?</p>
<h2>Que los políticos la usen</h2>
<p>Otra cosa muy diferente sería abogar porque los políticos usasen la inteligencia artificial de manera efectiva para tomar mejores decisiones. Usar de manera correcta la IA hace que las capacidades humanas se potencien, que seamos más productivos y <a href="https://gdi.ch/en/publications/studies/creative-through-ai-pdf-2022-e#attr=">creativos</a>. </p>
<p>Eso sí sería un gran avance para la sociedad: tomar conscientemente mejores decisiones apoyados por la tecnología, pero manteniendo el control y la responsabilidad.</p>
<p>La inteligencia artificial se ha ido colando en nuestra vida cotidiana casi sin darnos cuenta. Ya hace más de veinte años que llegó a nuestras casas en forma de <a href="https://es.wikipedia.org/wiki/Roomba#:%7E:text=Roomba%20es%20un%20aspirador%20rob%C3%B3tico,unidades%20en%20todo%20el%20mundo.">aspirador inteligente</a>. Más tarde, hemos confiado a la inteligencia artificial todo tipo de tareas, desde que nos recomiende una película, hasta que envíe un mensaje por nosotros. </p>
<p>Al mismo tiempo, hemos sido testigos de impresionantes avances. Se han creado sistemas inteligentes que pueden aprender y dominar juegos complejos como <a href="https://es.wikipedia.org/wiki/AlphaZero">Go y ajedrez</a>. También hemos visto como la inteligencia artificial puede <a href="https://alphafold.ebi.ac.uk">predecir la estructura tridimensional de las proteínas</a> a partir de su secuencia de aminoácidos, una tarea que hace unos años se pensaba que era imposible de resolver. Nos vamos acostumbrado a ella. </p>
<p>En el camino, si llega al Parlamento, está en nuestras manos que lo haga para ayudarnos.</p><img src="https://counter.theconversation.com/content/219632/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.</span></em></p>Una encuesta a 90 personas dio como resultado que un 30% votarían a favor de darle un escaño en el Parlamento a una inteligencia artificia.Verónica Bolón Canedo, Profesora Titular de Ciencias de la Computación e Inteligencia Artificial, Universidade da CoruñaSergio Travieso Teniente, Responsable de Reporting y profesor, Universidad Francisco de VitoriaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2200842023-12-20T21:20:52Z2023-12-20T21:20:52ZEsto es lo que la ley de la IA considera ‘riesgo inadmisible’<figure><img src="https://images.theconversation.com/files/566855/original/file-20231220-27-s6k3sq.jpg?ixlib=rb-1.1.0&rect=214%2C82%2C5277%2C3573&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">
</span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/machine-learning-analytics-identify-person-technology-1222270678">Zapp2Photo/Shutterstock</a></span></figcaption></figure><p>El primer acuerdo en el mundo <a href="https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai">para una ley que regule la inteligencia artificial se ha alcanzado en Europa</a>. Al ser pionera, podría tener influencia en otras regulaciones internacionales, como ha ocurrido con el Reglamento General de Protección de Datos. Por eso está en el punto de mira. El proyecto de ley se ha desarrollado en torno a los riesgos que puede generar. En el nivel más alto están los considerados “riesgos inadmisibles”. </p>
<p>Aunque habrá que esperar al texto final, de momento el acuerdo diferencia tres tipos de riesgo: riesgo inadmisible, cuando considera que su uso compromete seriamente los derechos de la persona; riesgo alto, si afecta a los derechos fundamentales pero se puede entender su uso en ciertos contextos; y riesgo leve. </p>
<h2>Prohibido clasificar por creencias, raza o identidad sexual</h2>
<p>¿Qué le parecería que, en el proceso de selección para un puesto de trabajo, le descartaran como candidato porque un sistema de IA ha identificado su tendencia sexual y a su potencial jefe eso le disgusta? Podrían hacerlo sin ni siquiera convocarle para la entrevista, sin conocerle. </p>
<p>Se trata de uno de los llamados “riesgos inadmisibles” derivados del uso de la inteligencia artificial. Se basa en la categorización biométrica, que tiene el potencial de detectar la ideología política, creencias religiosas o filosóficas y también la raza y la orientación sexual. </p>
<p>El reconocimiento facial, utilizado en sistemas de seguridad, tanto pública como privada, se alimenta con gran cantidad de imágenes. Éstas se pueden recolectar de internet o de la ingente cantidad de cámaras de videovigilancia que existen en lugares públicos. Es el caso de la aplicación <a href="https://www.clearview.ai/">ClearviewAI</a>, un <em>software</em> de reconocimiento facial que suministra su producto a gobiernos y agencias policiales para la detección de personas. Pues bien, esta forma de recolección de imágenes automatizada va a quedar prohibida.</p>
<p>¿Por qué? Principalmente por la intromisión en la privacidad, pero también porque tienen un gran margen de error al identificar a la persona. Si se admite en juicios, por ejemplo, no tendría sentido usar un sistema que falla para identificar a sujetos en procesos que pueden derivar en sanciones penales. Adicionalmente, este sistema permite controlar a las personas en los espacios públicos.</p>
<p>También se prohíben los sistemas de reconocimiento de emociones que controlan a los individuos todo el tiempo en el ámbito educativo o laboral para evitar, entre otras cosas, <a href="https://projects.research-and-innovation.ec.europa.eu/es/projects/success-stories/all/desarrollo-de-vehiculos-automatizados-que-se-adaptan-sus-emociones">que se duerman</a>, pierdan la concentración o muestren apatía. También aquí la ley habla de “riesgo inadmisible”. </p>
<h2>Vigilancia en el trabajo</h2>
<p>Cuando se han implantado en entornos laborales, los trabajadores han descrito <a href="https://dl.acm.org/doi/fullHtml/10.1145/3544548.3580950">experimentar una incomodidad extrema</a> al sentirse vigilados todo el tiempo. Pero el problema va más allá de la incomodidad: las empresas podrían imponer medidas cuando detectan estas emociones para aumentar la productividad del trabajador si no rinde como se espera. Es más, una mala noche puede ser suficiente para que un sistema de estas características alerte de nuestra “baja productividad”.</p>
<p>Sin duda, puede tener sentido usar el reconocimiento facial y el control de las emociones con un fin claramente positivo para la sociedad, como evitar que una persona se quede dormida conduciendo un coche y provoque un accidente. Lo polémico es que se permita utilizar estas tecnologías con fines como el control de la inmigración o como justificación de la actuación policial.</p>
<h2>Comportamiento controlado</h2>
<p>No hace mucho, el gobierno neerlandés decidió echar mano de un sistema de inteligencia artificial para organizar un reparto de ayudas sociales entre los más desfavorecidos. ¿Cuál era el problema? Que <a href="https://www.amnesty.org/es/documents/eur35/4686/2021/en/">discriminaba a inmigrantes y personas negras</a>, dos grupos vulnerables que se vieron excluidos en la obtención de esas ayudas. Tan graves fueron las consecuencias que el ministro que implementó el sistema tuvo que dimitir al poco tiempo. </p>
<p>En China han ido aún más lejos. El gobierno ha establecido <a href="https://www.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4">un sistema de puntos para evaluar a sus ciudadanos</a>. Obtener una baja evaluación puede acarrear restricciones para viajar, o impedir el acceso a un crédito bancario o a un empleo.</p>
<p>Para evitar este tipo de situaciones, la nueva regulación propone abolir los usos dedicados a explotar vulnerabilidades de las personas como la edad, la discapacidad o la situación social y económica. </p>
<p>Otro modelo no permitido son los sistemas de inteligencia que manipulan el comportamiento humano para constreñir su libre albedrío. Son sistemas que se emplean, por ejemplo, para hacer que los usuarios se enganchen más tiempo a las redes sociales, para fomentar que se compren determinados productos o para evitar que las personas tomen ciertas decisiones libremente. </p>
<h2>Los usos policiales no se prohíben, pero se consideran de alto riesgo</h2>
<p>Sin embargo, la ley no prohíbe que las fuerzas y cuerpos de seguridad recurran a sistemas de identificación biométrica en espacios abiertos al público con fines policiales. En estos casos, se requiere autorización judicial para poder usarlos. Y sólo se pueden utilizar por un tiempo y espacio limitado. </p>
<p>Estos supuestos son los siguientes:</p>
<ol>
<li><p>Búsqueda de víctimas concretas, por ejemplo, en secuestros, tráfico y explotación sexual.</p></li>
<li><p>Prevención de amenazas específicas y actuales de terrorismo.</p></li>
<li><p>Localización o identificación de una persona que haya cometido un delito grave de terrorismo, tráfico y explotación sexual, asesinato, secuestro, violación, robo con armas, participación en un grupo organizado y delitos medioambientales.</p></li>
</ol>
<p>El escepticismo de determinados grupos ante estas aplicaciones es comprensible teniendo en cuenta <a href="https://www.theguardian.com/uk-news/2018/may/05/welsh-police-wrongly-identify-thousands-as-potential-criminals">el gran número de falsos positivos que se dan en identificación facial en vivo</a>. Si a eso le añadimos la cantidad de delitos recogidos en el tercer punto, casi parece que se da luz verde en general a cualquier uso en investigaciones policiales. </p>
<p>El esfuerzo que han hecho los Estados para evitar que se prohíba la IA en investigaciones policiales ha sido más que notable. Quizás para estos usos en materia penal se debería articular una legislación concreta, como ocurre con el uso de datos personales.</p>
<p>Sea como fuere, podemos considerar el acuerdo como un gran éxito, dado que <a href="https://www.boe.es/buscar/act.php?id=BOE-A-1978-31229">los derechos fundamentales siguen siendo de obligado cumplimiento</a>. Y los ciudadanos, independientemente de que su uso esté prohibido o no, podrán recurrir a los tribunales cuando se sientan desprotegidos.</p><img src="https://counter.theconversation.com/content/220084/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Javier Valls Prieto recibe fondos del Ministerio de Ciencia e Innovación. </span></em></p>El primer acuerdo en el mundo para una ley que regule la inteligencia artificial se ha alcanzado en Europa. Plantea prohibir cualquier aplicación basada en detectar la ideología política, las creencias o la orientación sexual para tomar medidas.Javier Valls Prieto, Prof. en Derecho Penal especializado en regulación ética y jurídica de la inteligencia artificial y la robótica, Universidad de GranadaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2195522023-12-17T22:27:18Z2023-12-17T22:27:18Z¿Qué es ChatGPT? ¿Qué es Gemini? ¿Qué es Bard?<p>La batalla por el dominio del mercado de la inteligencia artificial está en su punto más álgido. Quién gane dependerá de lo útiles que nos resulten Gemini, Bard o ChatGPT. </p>
<p>Son las primeras herramientas de procesamiento de lenguaje que usan inteligencia artificial y que distintos gigantes tecnológicos ofrecen a los usuarios. </p>
<h2>Google saca la artillería</h2>
<p>Google acaba de celebrar su <a href="https://vandal.elespanol.com/noticia/r22510/google-cumple-hoy-25-anos-repasamos-la-historia-del-rey-de-los-buscadores">25° aniversario</a>, tiempo durante el que se ha consolidado como líder de los motores de búsqueda. Este todopoderoso ha trascendido su función original y ofrece ahora más de 20 servicios para los usuarios: previsiones meteorológicas, cotizaciones en bolsa, mapas detallados, carteleras de cine e incluso información sobre el tráfico. </p>
<p>Google es ya una parte integral de nuestra vida y lo ha logrado con <a href="https://tekiosmag.com/2023/09/28/google-celebra-sus-25-anos-aqui-los-10-hitos-del-desarrollo-de-su-inteligencia-artificial/">investigación y desarrollo de soluciones</a> basadas en inteligencia artificial, al igual que otras grandes tecnológicas. </p>
<p>2016 fue el comienzo del asombro. Ese año millones de personas presenciaron cómo la creación de Google DeepMind, <a href="https://es.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol">AlphaGo, vencía al campeón humano de Go, Lee Sedol</a>. Y lo hacía jugando como no jugaban hasta entonces las máquinas. ¡Guau! </p>
<p>En 2020, <a href="https://alphafold.ebi.ac.uk/">AlphaFold</a>, otro desarrollo, resolvió un desafío sin solución durante cincuenta años de investigación: el modo en que se pliegan las proteínas. El avance, la razón de ambos logros, fue la irrupción de la inteligencia artificial en el terreno de juego. </p>
<h2>Y llegaron los procesadores de lenguaje</h2>
<p>La IA podía ensayarse en casi cualquier desafío pendiente. Uno de ellos era mejorar la capacidad de las computadoras para comprender el lenguaje humano. El logro fue el desarrollo de modelos de lenguaje de gran tamaño <a href="https://es.wikipedia.org/wiki/LLM_(modelo_grande_de_lenguaje)">LLMs</a> (siglas en inglés para <em>Large Language Model</em>). </p>
<p>Estos modelos, entrenados con enormes volúmenes de texto y a veces código, son el <em>AlphaGo</em> del texto, la escritura, la traducción o la generación de respuestas. Los LLMs son la raíz de ChatGPT, de Bard y de otros tantos. </p>
<h2>ChatGPT: un año aprendiendo de nosotros</h2>
<p>ChatGPT, de OpenAI, acaba de cumplir un año. Esta herramienta está construida sobre uno de los LLMs más potentes hasta hoy: <a href="https://openai.com/gpt-4">GPT-4</a>. Su potencia, unida a una interfaz simple y a su facilidad de uso, ha situado a la inteligencia artificial en el centro de nuestras vidas. </p>
<p>Para la sociedad, el acceso a una herramienta como ChatGPT ha sido revolucionario. Con un <em>clic,</em> interactuamos en lenguaje natural con una herramienta con capacidad comparable a la humana en tareas de alto nivel intelectual. ChatGPT puede redactar, traducir y resumir texto, resolver problemas y generar código de programación. </p>
<p>Tras el lanzamiento de ChatGPT, distintas empresas tecnológicas han adaptado y adoptado tecnología de inteligencia artificial conversacional. Microsoft integró ChatGPT en su buscador Bing, anunciando Bing Chat. Su salida al terreno de juego alteró el panorama tecnológico donde, hasta ahora, Google había sido el líder indiscutible. </p>
<h2>La respuesta de Google a ChatGPT: Bard y Gemini</h2>
<p>La ola de innovaciones intensificó la competencia. Google trabajó con <a href="https://deepmind.google/discover/blog/announcing-google-deepmind/">Deep Mind</a> para poder integrar inteligencia artificial de forma acelerada en sus productos. Y en febrero de 2023 <a href="https://espana.googleblog.com/2023/02/el-proximo-paso-importante-en-nuestro.html">lanzaron Bard</a>, basado en el LLM <a href="https://blog.google/technology/ai/lamda/">LambDA</a>, como competencia de ChatGPT. </p>
<p><a href="https://bard.google.com/chat">Bard (en uso) </a>no ha tenido el éxito que se esperaba, lo que refleja el desafío y la complejidad de dominar el mercado de la inteligencia artificial.</p>
<h2>Texto, audio, vídeo y fotos: todo en uno</h2>
<p>Para reforzar su posición, Google ha anunciado <a href="https://deepmind.google/technologies/gemini/#introduction">Gemini</a>, un ambicioso proyecto a la altura del gigante. </p>
<p>Gemini es un modelo multimodal desde su concepción y promete procesar y entender el texto, pero también imágenes, audio y vídeo. Todo sin salir de Gemini. </p>
<p>Otros LLMs pueden complementarse, por ejemplo, llamando a modelos generativos de imágenes. Pero Gemini es capaz de hacerlo de forma natural, comprende diferentes formatos y procesa la información de manera transparente para el usuario. </p>
<p>Gemini estará disponible en tres tamaños: Nano, para móviles; Pro, equivalente a la versión gratuita de ChatGPT, y Ultra que, según Google, supera al más potente ChatGPT. </p>
<h2>La polémica del nacimiento de Gemini</h2>
<p>El anuncio de Gemini ha generado controversia. Por el momento, el acceso a los modelos es limitado. <a href="https://www.xataka.com/basics/como-probar-gemini-pro-google-bard-para-android">Actualmente solo se puede acceder a la versión Pro, disponible a través de Bard, desde EE UU</a>. Se espera una implantación gradual. </p>
<p>El modelo Nano se integrará inicialmente en dispositivos como <a href="https://espana.googleblog.com/2023/12/pixel-8-pro-el-primer-smartphone-con-ia.html">Google Pixel 8</a> y podrá obtenerse la versión Pro con una actualización. El lanzamiento de la versión Ultra sigue sin fecha. </p>
<p>El vídeo de presentación de Gemini ha suscitado dudas sobre la <a href="https://www.youtube.com/watch?v=UIZAiXYceBI&t=1s">autenticidad de las demostraciones</a>, ya que inicialmente sugería procesamiento de vídeo en tiempo real. Sin embargo, posteriormente se aclaró que se trataba de fotografías individuales acompañadas de instrucciones (<em>prompts</em>) dadas por el usuario. También hay cierto escepticismo en la comunidad científica respecto a las afirmaciones de rendimiento recogidas en el <a href="https://developers.googleblog.com/2023/12/how-its-made-gemini-multimodal-prompting.html">informe técnico</a> ofrecido.</p>
<p>¿Quién se hará con el mercado? ¿Será Bard, será ChatGpt? Sin duda su éxito estará en función de las prestaciones que ofrezcan, incluyendo su integración con paquetes de ofimática y otras aplicaciones. La calidad de las respuestas y la facilidad de uso serán cruciales. </p>
<p>Herramientas como Bard y ChatGPT son el primer ensayo del rumbo que tomará la IA. Pero su éxito final dependerá de cómo mejoran la experiencia del usuario y de si satisfacen o no nuestras necesidades prácticas y cotidianas.</p>
<h2>¿El fin de los buscadores tradicionales?</h2>
<p>En estos momentos hay un profundo debate sobre si estas herramientas suponen el fin de la búsqueda tradicional en internet. Buscadores como Google facilitan encontrar contenido, pero los usuarios deben analizar la información. Ahora, estas nuevas herramientas pueden ocuparse de esa tarea de análisis. Pero eso no implica necesariamente que los buscadores tradicionales desaparezcan. </p>
<p>Los retos que se plantean incluyen el aumento de costes computacionales, así como errores, inexactitudes y alucinaciones en los resultados que ofrecen las inteligencias artificiales. </p>
<p>Además de la capacidad conversacional, ya contamos con modelos de inteligencia artificial para comprender o generar imágenes, acceder a información web, transcribir la voz, y para acceder a documentos y aplicaciones externas para mejorar sus respuestas. </p>
<p>Su accesibilidad y capacidad implican replantearnos muchísimas cosas, entre ellas la evaluación de habilidades en educación o la estabilidad laboral de una enorme diversidad de profesiones. Pero hay algo que nadie duda: ChatGPT y los suyos han llegado para quedarse.</p><img src="https://counter.theconversation.com/content/219552/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.</span></em></p>Los modelos de lenguaje basados en inteligencia artificial han llegado para quedarse. Pero, ¿qué son? ¿Qué diferencia a ChatGpt de Bard o Gemini?Enrique Onieva Caracuel, Profesor en Inteligencia Artificial, Universidad de DeustoBorja Sanz Urquijo, Profesor Universitario asistente especializado en ciberseguridad e inteligencia artificial., Universidad de DeustoLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2169612023-12-11T19:26:29Z2023-12-11T19:26:29ZLa importancia de regular el uso de la inteligencia artificial en la sanidad<figure><img src="https://images.theconversation.com/files/564849/original/file-20231211-25-nfepg0.jpg?ixlib=rb-1.1.0&rect=616%2C114%2C13376%2C4976&q=45&auto=format&w=496&fit=clip" /><figcaption><span class="caption">
</span> <span class="attribution"><a class="source" href="https://www.shutterstock.com/es/image-photo/digital-doctor-healthcare-science-medical-remote-2267168307">thinkhubstudio/shutterstock</a></span></figcaption></figure><p>La salud digital procura aprovechar la tecnología para mejorar la atención médica, facilitar la gestión de la salud personal y promover un enfoque proactivo hacia el bienestar con el fin de ayudar a pacientes, investigadores y profesionales de la atención médica a obtener y utilizar información sobre la salud de manera efectiva y eficiente. </p>
<p>Así, se consiguen mejoras importantes en aspectos clave como pueden ser:</p>
<ul>
<li><p>La atención médica, que se hace más accesible, especialmente en áreas remotas o desatendidas. Soluciones digitales como la telemedicina permiten a las personas recibir atención médica sin tener que hacer desplazamientos largos.</p></li>
<li><p>La eficiencia y el ahorro de costos en el sistema sanitario, como en cualquier otro sometido a una transformación digital, porque conlleva el establecimiento de procesos y el desarrollo de metodologías de planificación que <a href="https://www.elsevier.es/es-revista-atencion-primaria-practica-24-articulo-impacto-implementacion-nuevas-tecnologias-innovar-S2605073021000377">redundan en notables mejoras del sistema en su conjunto</a>.</p></li>
<li><p>El monitoreo y seguimiento continuo de los pacientes, al permitir controlar su salud de manera fluida y recibir avisos sobre posibles problemas que mejoran tanto la detección temprana de enfermedades como la gestión de estados crónicos.</p></li>
<li><p>La personalización de la atención médica, dado que están permanentemente disponibles los datos y las necesidades individuales de los pacientes. Eso conduce a tratamientos más efectivos, con <a href="https://www.ambit-bst.com/blog/innovaci%C3%B3n-tecnol%C3%B3gica-en-la-medicina">resultados muy positivos sobre la salud</a>.</p></li>
<li><p>La investigación y el desarrollo de nuevos medicamentos, que se acelera y favorece que se produzcan avances más rápidamente en la lucha contra enfermedades, mejorando la calidad de vida.</p></li>
<li><p>El control personal sobre nuestra propia salud, puesto que los dispositivos específicos para la salud digital, c<a href="https://calidadasistencial.es/wp-content/uploads/2017/07/Informe-TAD-50-Mejores-Apps-de-Salud.pdf">omo es el caso de las <em>apps</em> de los móviles</a>, pueden ayudar a las personas a jugar un papel más activo en su bienestar y a adoptar hábitos de vida más saludables al proporcionar en tiempo real información comprensible sobre su salud.</p></li>
<li><p>La respuesta a alertas tempranas, como las que pueden producirse por emergencias y pandemias. Al tener conocimiento de ellas con mayor anticipación, mejora la vigilancia epidemiológica, el rastreo de contactos y la entrega de atención médica a distancia, reduciendo así la propagación de enfermedades.</p></li>
<li><p>Un alcance geográfico más amplio. La digitalización elimina las fronteras y facilita el acceso universal a los expertos médicos, lo que resulta especialmente valioso en regiones con escasez de profesionales de la salud.</p></li>
<li><p>La sostenibilidad y reducción de la huella ecológica también se mejoran porque el desarrollo de la salud digital minimiza los desplazamientos físicos, contribuyendo a disminuir las emisiones de carbono.</p></li>
</ul>
<h2>Potencial de la inteligencia artificial en la mejora de resultados sanitarios</h2>
<p>El indudable valor de todas estas mejoras ya está recogido en la <a href="https://apps.who.int/iris/handle/10665/344249">estrategia mundial sobre salud digital 2020-2025 de la Organización Mundial de la Salud (OMS)</a>, que persigue mejorar la salud de todos, en todas partes, acelerando el desarrollo y la adopción de soluciones de salud digital adecuadas, accesibles, asequibles, escalables y sostenibles centradas en las personas. El fin último no es otro que prevenir, detectar y responder a epidemias y pandemias, desarrollando infraestructuras y aplicaciones.</p>
<p>No obstante, a pesar de ese importante paso, tanto la OMS como numerosas organizaciones y agentes internacionales reconocen el potencial de la inteligencia artificial (IA) en la mejora de los resultados sanitarios. Fundamentalmente porque actúa como catalizador de la transformación del sector de la salud, satisfaciendo las necesidades de las distintas partes interesadas en la atención sanitaria y el desarrollo terapéutico.</p>
<p>Lo que complica las cosas es que, al manejar datos sanitarios de personas, los sistemas basados en IA podrían tener acceso a información personal sensible. Por eso requieren marcos jurídicos y regulatorios sólidos para salvaguardar la privacidad, la seguridad y la integridad.</p>
<h2>6 ejes a tener en cuenta para futuras regulaciones</h2>
<p>Para facilitar el uso seguro y adecuado de los sistemas basados en IA en la atención sanitaria, la OMS y la Unión Internacional de Telecomunicaciones crearon un Grupo de Interés en IA para la Salud que, a su vez, creó varios subgrupos de trabajo, entre ellos el <a href="https://iris.who.int/handle/10665/373421">Grupo de Trabajo en Consideraciones Reglamentarias sobre IA para la Salud</a>. Este ha facilitado que los reguladores y los expertos en la materia debatan sobre las consideraciones reglamentarias para el uso de las tecnologías de IA y el desarrollo de sistemas de IA con fines sanitarios y médicos, indicando la necesidad de considerar seis ejes de intervención a tener en cuenta en futuras regulaciones:</p>
<ol>
<li><p>Con el fin de fomentar la confianza, subraya la importancia de la transparencia y la documentación, lo que se traduce en documentar el ciclo completo de vida del producto y registrar los procesos de su desarrollo.</p></li>
<li><p>En cuanto a la gestión de los riesgos, hay cuestiones como el “uso previsto”, el “aprendizaje continuo”, las intervenciones humanas, los modelos de entrenamiento y las amenazas a la ciberseguridad que deben mejorarse de manera exhaustiva y simplificarse lo máximo posible.</p></li>
<li><p>La validación externa de los datos y la claridad sobre el uso previsto de la inteligencia artificial ayudan a salvaguardar la seguridad y facilitan la regulación.</p></li>
<li><p>El compromiso con la calidad de los datos, que puede demostrarse mediante la evaluación rigurosa de los sistemas previa a sus lanzamientos, es vital para asegurarse de que los sistemas no extiendan los sesgos y la desinformación.</p></li>
<li><p>Los retos que plantean las regulaciones complejas e importantes, como el <a href="https://www.boe.es/doue/2016/119/L00001-00088.pdf">Reglamento General de Protección de Datos en Europa</a> y la <a href="https://start.docuware.com/es/glosario-de-terminos/hipaa">Ley de Portabilidad y Responsabilidad del Seguro Médico en los Estados Unidos</a>, se abordan poniendo énfasis en la comprensión del alcance de la jurisdicción y los requisitos para el consentimiento al servicio de la privacidad y la protección de datos.</p></li>
<li><p>Promover la colaboración entre organismos reguladores, pacientes, profesionales de la salud, representantes de las industrias y asociados gubernamentales puede ayudar a asegurar que los productos y servicios cumplen con las regulaciones a lo largo de sus ciclos de vida.</p></li>
</ol>
<p>La IA evoluciona muy rápidamente. Las soluciones que son válidas hoy pueden requerir revisiones a medida que se desarrollen la tecnología y sus usos. De ahí que tengamos que confiar en que la regulación ayude a controlar los riesgos de la aplicación innecesaria o malintencionada de IA, evite propagar posibles sesgos existentes en los datos de entrenamiento y contribuya a minimizar las desigualdades. </p>
<p>Para ello sería idóneo contar con un organismo internacional de supervisión de la IA. Algo que se viene <a href="https://www.lamoncloa.gob.es/presidente/actividades/Paginas/2023/220523-sanchez-inteligencia-artificial-openai.aspx">reclamando desde las más altas instancias</a> y que, afortunadamente, parece que <a href="https://www.theguardian.com/technology/2023/nov/01/uk-us-eu-and-china-sign-declaration-of-ais-catastrophic-danger">empieza a tomar cuerpo</a>.</p><img src="https://counter.theconversation.com/content/216961/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>José Luis Verdegay Galdeano no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Tanto la la OMS como otras organizaciones internacionales reconocen el potencial de la IA en la mejora de los resultados sanitarios. Sin embargo, esta podría tener acceso a información personal sensible, por lo que se requieren marcos jurídicos y regulatorios que salvaguarden la privacidad.José Luis Verdegay Galdeano, Catedrático de Ciencia de la Computación e Inteligencia Artificial, Universidad de GranadaLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2188872023-11-30T10:26:09Z2023-11-30T10:26:09ZLa causa principal del terremoto en OpenAI<p>Sam Altman ha recuperado el mando de OpenAI tras una tumultuosa semana marcada por las luchas intestinas y las pugnas por el poder en el seno de la empresa. <a href="https://efe.com/economia/2023-11-17/openai-anuncia-la-salida-de-sam-altman-su-principal-ejecutivo/">Su despido</a>, en una especie de golpe de estado, ha estado provocado por los movimientos internos y la preocupación del consejo de administración por la velocidad vertiginosa a la que Altman desarrollaba productos y nuevas capacidades de la inteligencia artificial que podrían escapar del control de la propia empresa, y posiblemente del mundo.</p>
<p>El golpe inicial fue rápido, pero la venganza también. El consejo despidió a la persona que encarna la revolución mundial de la inteligencia artificial casi sin previo aviso. Microsoft, que había invertido alrededor de 10 000 millones de dólares en la empresa, habría sido avisada de la decisión con apenas 15 minutos de antelación. </p>
<p>Como represalia, Altman se incorporó de forma provisional al equipo de inteligencia artificial de Microsoft, al tiempo que cientos de empleados de OpenAI amenazaron con marcharse si no se readmitía a su exjefe. El órgano de administración, formado por cuatro personas, se vio obligado a dar <a href="https://efe.com/economia/2023-11-19/sam-altman-openai-despido/">un embarazoso giro de 180 grados</a>. Después de defenestrar a tres de los suyos, el consejo renovado volvía a dar la bienvenida a Altman solo cuatro días después de echarlo.</p>
<h2>Tensión entre ganancias y ética</h2>
<p>Si bien no se conocen todos los detalles del despido, el conflicto pone de relieve la tensión inherente a la inteligencia artificial y a su tremendo potencial para mejorar la productividad, pero también para la autodestrucción. No cabe duda de que el hecho de que OpenAI sea una empresa con ánimo de lucro que forma parte de una fundación sin ánimo de lucro agrava el problema. Su consejo de administración está formado en su mayoría por miembros independientes, sin acciones en OpenAI, por lo que podría decirse que sus motivaciones e incentivos son contrarios a los intereses comerciales de la empresa.</p>
<p>Esa tensión es aún más evidente en los estatutos de la empresa: la responsabilidad del consejo era impulsar la misión de OpenAI y “garantizar que la inteligencia artificial general –que excede la inteligencia humana media– beneficie a toda la humanidad”. </p>
<p>Al mismo tiempo, inversores como Microsoft y el gigante del capital riesgo Sequoia no quieren frenar en exceso el desarrollo de esta tecnología mientras competidores como Google y las empresas chinas lo aceleran. </p>
<p>En este sentido, el principal obstáculo parece radicar en una colisión de normas y motivaciones entre el componente de empresa privada y el que no tiene ánimo de lucro. Así pues, no debería sorprendernos que los consejeros con vocación no lucrativa fueran sacrificados en el altar de la rentabilidad de los inversores.</p>
<h2>Autorregulación empresarial</h2>
<p>De esta historia también se extrae una importante lección sobre si las empresas pueden o deben autorregularse. Si OpenAI intentaba controlar el ritmo de desarrollo de la inteligencia artificial, también alimentaba la amenaza omnipresente de que otras empresas consiguieran una ventaja a su costa, porque, a fin de cuentas, suele ser difícil representar a la vez el papel de regulador y de regulado. Pero aún más cuando se trata de una nueva tecnología prometedora y, en potencia, aterradora.</p>
<p>OpenAI se halla ahora en un proceso de conversión hacia una empresa eminentemente comercial, o al menos una en que los fines sin ánimo de lucro estén más separados de los planes comerciales, como ocurre hoy en la mayoría de las fundaciones privadas.</p>
<p>Tal vez sea conveniente que la parte de fundación de OpenAI siga siendo abierta, y proporcione conocimientos y recursos a todo el mundo –también a sus competidores–, y que la parte comercial siga siendo competitiva y gestionada como una empresa privada. La regulación puede dejarse a las autoridades competentes, que, al fin y al cabo, son las que regulan al resto de las empresas.</p><img src="https://counter.theconversation.com/content/218887/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Ikhlaq Sidhu no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>OpenAI es una una empresa con intereses lucrativos en el seno de una fundación. Por un lado, sus estatutos buscan beneficiar a toda la humanidad; por otro, sus dueños e inversores quieren beneficios.Ikhlaq Sidhu, Decano de IE School of Science and Technology, IE UniversityLicensed as Creative Commons – attribution, no derivatives.tag:theconversation.com,2011:article/2150122023-11-27T23:26:39Z2023-11-27T23:26:39ZEl peligro real de los ‘deepfakes’ de clonación de voz y cómo detectarlos<p>Uno de los usos tecnológicos más llamativos de las películas de <em>Misión Imposible</em> <a href="https://www.20minutos.es/cinemania/noticias/mision-imposible-tecnologia-gadgets-mas-ingeniosos-saga-5145728/">es el cambiador de voz</a>. Ethan Hunt (Tom Cruise) se pone una máscara con la cara de la víctima, habla de forma natural con la voz del suplantado y así se hace pasar por él. Cada vez estamos más cerca de esto gracias a la inteligencia artificial (IA); al menos en lo que respecta a copiar la voz. Hay una diferencia. No siempre copiamos la voz con el noble objetivo de luchar contra el mal, como en las películas. A veces es para engañar de viva voz. Son las <em>deepfake</em> de clonación de voz.</p>
<p>La clonación de la voz con fines delictivos viene sucediendo desde hace unos años. Últimamente es más preocupante porque cada vez resulta más fácil y lo cierto es que nadie está a salvo.</p>
<p>Uno de los primeros casos relevantes de <em>deepfake</em> de clonación de voz <a href="https://www.documentcloud.org/documents/21085009-hackers-use-deep-voice-tech-in-400k-theft">sucedió en 2020</a>. El damnificado fue el director de una sucursal de una empresa japonesa en Hong Kong. Recibió una llamada telefónica de quien decía ser el director de la compañía. Aparentemente, todo era normal. El director de la sucursal reconoció la voz de su responsable, y por ello no tuvo reparo en seguir todas las instrucciones que le dio. Así transfirió 35 millones de dólares a los estafadores.</p>
<p>Eso ocurrió hace tres años. Ahora es más frecuente. En la primavera de este año, el inversor de Florida <a href="https://www.linkedin.com/in/clive-kabatznik-25a31a10/">Clive Kabatznik</a> fue <a href="https://incidentdatabase.ai/es/cite/564/">víctima de un intento similar</a>. En Canadá <a href="https://incidentdatabase.ai/cite/492/#r2786">unos abuelos recibieron una llamada</a> supuestamente de su nieto. Les alarmaba de que estaba en la cárcel y necesitaba efectivo para pagar la fianza. Afortunadamente, en ambos casos los intentos fueron detectados y no se pudo consumar la estafa. Pero el riesgo existe porque la tecnología está al alcance de la mano.</p>
<h2>Con tres segundos es suficiente para clonar</h2>
<p>Actualmente la clonación de voz no es exactamente como en <em>Misión Imposible</em>. No se transforma la voz de una persona en la de otra, sino que se lee un texto con la voz de una persona particular. Es lo que se conoce como síntesis de texto a discurso (<a href="https://cloud.google.com/text-to-speech/docs/basics?hl=es-419"><em>test-to-speech</em> o TTS</a>). Su funcionamiento se basa en identificar patrones de voz. Todos hablamos de una forma particular, y por ello reconocemos las voces de cada persona. Tenemos un cierto tono, un timbre y una cadencia particular. En la clonación de la voz se utilizan redes neuronales entrenadas para reconocer estos patrones identificativos de cada voz y luego reproducirlos en la lectura de cualquier texto.</p>
<p>Un ejemplo significativo de IA de clonado de voz es <a href="https://www.microsoft.com/en-us/research/project/vall-e-x/overview/">VALL-E</a>, de Microsoft. Su red neuronal ha sido entrenada con más de 60 000 horas de audio en inglés de 7 000 personas diferentes. Su potencia radica en que, para clonar una voz, le basta con tres segundos de grabación. Dispone también de la versión <a href="https://www.microsoft.com/en-us/research/project/vall-e-x/vall-e-x/">VALL-E (X)</a>, que permite la clonación de la voz en un idioma distinto al original. Por el momento, Microsoft no facilita esta tecnología de forma abierta, pero todo apunta a que <a href="https://vall-e.pro/">estará en breve</a>.</p>
<p>Sin embargo, en Internet podemos encontrar muchas aplicaciones que permiten clonar una voz de forma sencilla. Basta con 30 segundos de grabación o leer un texto corto que proporciona la propia aplicación. </p>
<p>Estas aplicaciones no nacen con el propósito de “estafar voces”. Su objetivo es ofrecer voces particulares, o la propia voz, para actividades como la animación de vídeos, avatares en videojuegos, creación de parodias o acciones de marketing. También hay aplicaciones con fines sociales. Por ejemplo, en la lectura de textos para <a href="https://speechify.com/?landing_url=https%3A%2F%2Fspeechify.com%2Fvoice-cloning%2F">personas con dislexia</a>. Clonar la voz no es un hecho delictivo en sí mismo. Depende del fin con el que cada uno lo haga.</p>
<h2>Cómo evitar un engaño</h2>
<p>En todos los casos estas aplicaciones avisan de posibles usos fraudulentos, si bien delegan en el usuario toda la responsabilidad de un uso inapropiado. Antes de usar este tipo de aplicaciones es recomendable leer las condiciones legales. No suelen estar escritas en un lenguaje amigable, pero determinan cuáles son nuestras responsabilidades y concesiones como usuarios. Por ello, vigile qué datos recopila la aplicación, además del registro de nuestra voz, y con qué fines los van a utilizar. Además, tenga presente que lo que publica puede ser accesible a terceras partes, quedando fuera de la política de privacidad de la propia aplicación.</p>
<p>Otro punto de atención es utilizar una voz sin permiso –puede ser la suya, no lo olvide–. Algo similar ya ha ocurrido en el caso de utilización de imágenes. La empresa <a href="https://www.clearview.ai/">Clearview AI</a> entrenó su sistema de reconocimiento facial con <a href="https://www.bbc.com/news/technology-65057011">30 000 millones de imágenes tomadas de redes sociales</a> sin consentimiento de sus dueños. Esto significa que cualquier voz subida a redes sociales puede ser utilizada como entrenamiento de otras IA o para ser clonada.</p>
<p>Por desgracia, <a href="https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0285333">no somos buenos identificando voces clonadas</a>. Una forma de identificar si nuestra voz ha sido clonada con IA es utilizar la propia IA. Existen aplicaciones de IA que permiten <a href="https://voice.ai/ethics">identificar la clonación de voz</a>. Pero es posible que no siempre tengamos acceso a esta tecnología. </p>
<p>Otras opciones, más al alcance de la mano, se basan en la natural respuesta ante la intuición de una estafa: verificar con terceras personas si una grabación sospechosa puede ser de su dueño o no; ponernos en contacto por otra vía con la persona supuestamente suplantada; o preguntar o comentar algo al interlocutor sospechoso que solo la verdadera persona conoce. Hay que recordar que se clona la voz, pero no la persona (todavía).</p><img src="https://counter.theconversation.com/content/215012/count.gif" alt="The Conversation" width="1" height="1" />
<p class="fine-print"><em><span>Juan Ignacio Rouyet no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.</span></em></p>Nuevas herramientas de inteligencia artifical permiten reproducir una voz en diversos idiomas, lo que puede llevar a que cibercriminales suplanten la identidad a través de llamadas falsas. Así podemos protegernos.Juan Ignacio Rouyet, University Lecturer, UNIR - Universidad Internacional de La Rioja Licensed as Creative Commons – attribution, no derivatives.