La principal consecuencia de que los algoritmos funcionen como una caja negra es que pueden aplicar sesgos discriminatorios que a veces solo se detectan ‘a posteriori’. La nueva ley de inteligencia artificial europea recoge nuevas medidas para evitarlos.
El despliegue de la IA en educación parece irrefrenable. Pero su potencial no está exento de riesgos: sesgos, dependencia tecnológica, plagio, alucinaciones algorítmicas y abusos contra la privacidad.
David García-Marín, UNED - Universidad Nacional de Educación a Distancia
En este artículo de la revista Telos, el autor explica la relación entre la capacidad de los algoritmos de transformar la realidad y la adaptación del comportamiento humano a estos cambios, lo que promueve la producción y propagación de contenidos desinformativos.
Caras generadas con la inteligencia artificial Dall.e.
La inteligencia artificial puede combatir los sesgos de género desde el debate social y la acción política, desde la diversidad y desde la regulación normativa.
Los sesgos y errores cometidos por los algoritmos ya han llevado a diferentes gobiernos y empresas a los tribunales. ¿Cómo toman estos sistemas las decisiones? ¿Quién es el responsable?
Un algoritmo automatiza tareas para solucionar problemas. La automatización mal empleada puede llevarnos a inhibir procesos de innovación, reflexión y provocar hasta miedo.
A pesar de las perspectivas profesionales de la informática, la carrera no consigue enganchar a las niñas. Se pierde así el 40% del talento, y las nuevas tecnologías se desarrollan con sesgo de género.
Para evitar que las máquinas muestren los mismos sesgos que las personas, es necesario mejorar todo el proceso de creación y aprendizaje de los algoritmos e involucrar a profesionales que puedan detectar los fallos.
La tecnología hecha por y para personas necesita el valor de las ciencias sociales y las artes propias de las personas para poner al ser humano en el verdadero centro de su propia (r)evolución.
Pere Simón, UNIR - Universidad Internacional de La Rioja
Crece el debate acerca de la oportunidad de introducir la inteligencia artificial en la justicia para mejorar su eficacia y objetivar la toma de decisiones judiciales difíciles.
A partir del documental ‘Coded Bias’, los autores revisan cómo la subjetividad de quienes detentan posiciones de poder modela las posibilidades y usos de la inteligencia artificial.
Las nuevas tecnologías permiten reconocer caras, identificar emociones y hasta distinguir género y raza. Sin embargo, los algoritmos no funcionan igual de bien con todo el mundo.
Si los algoritmos se entrenan con imágenes de personas blancas o con textos sexistas, los programas reflejarán después estos sesgos. Los expertos en IA buscan soluciones para evitarlo.
¿Cómo podemos enseñar normas morales de comportamiento a una máquina? La ética no puede basarse en la opinión mayoritaria sobre el bien y el mal ni en un rígido código de conducta.
