La revolución de la IA ha llegado a la lucha contra la violencia de género. Su uso hace más accesible y eficiente la justicia, pero obliga a vigilar sesgos y errores del algoritmo.
Rigor académico, oficio periodístico
Artículos sobre sesgos algorítmicos
Mostrando todos artículos
La principal consecuencia de que los algoritmos funcionen como una caja negra es que pueden aplicar sesgos discriminatorios que a veces solo se detectan ‘a posteriori’. La nueva ley de inteligencia artificial europea recoge nuevas medidas para evitarlos.
El despliegue de la IA en educación parece irrefrenable. Pero su potencial no está exento de riesgos: sesgos, dependencia tecnológica, plagio, alucinaciones algorítmicas y abusos contra la privacidad.
En este artículo de la revista Telos, el autor explica la relación entre la capacidad de los algoritmos de transformar la realidad y la adaptación del comportamiento humano a estos cambios, lo que promueve la producción y propagación de contenidos desinformativos.
¿Estamos replicando nuestros sesgos en la inteligencia artificial? ¿Es posible evitarlo?
La inteligencia artificial puede combatir los sesgos de género desde el debate social y la acción política, desde la diversidad y desde la regulación normativa.
Los sesgos y errores cometidos por los algoritmos ya han llevado a diferentes gobiernos y empresas a los tribunales. ¿Cómo toman estos sistemas las decisiones? ¿Quién es el responsable?
Un algoritmo automatiza tareas para solucionar problemas. La automatización mal empleada puede llevarnos a inhibir procesos de innovación, reflexión y provocar hasta miedo.
No hay que tener una fe ciega en la inteligencia artificial, puesto que está programada por personas.
A pesar de las perspectivas profesionales de la informática, la carrera no consigue enganchar a las niñas. Se pierde así el 40% del talento, y las nuevas tecnologías se desarrollan con sesgo de género.
Para evitar que las máquinas muestren los mismos sesgos que las personas, es necesario mejorar todo el proceso de creación y aprendizaje de los algoritmos e involucrar a profesionales que puedan detectar los fallos.
La tecnología hecha por y para personas necesita el valor de las ciencias sociales y las artes propias de las personas para poner al ser humano en el verdadero centro de su propia (r)evolución.
Crece el debate acerca de la oportunidad de introducir la inteligencia artificial en la justicia para mejorar su eficacia y objetivar la toma de decisiones judiciales difíciles.
A partir del documental ‘Coded Bias’, los autores revisan cómo la subjetividad de quienes detentan posiciones de poder modela las posibilidades y usos de la inteligencia artificial.
Las nuevas tecnologías permiten reconocer caras, identificar emociones y hasta distinguir género y raza. Sin embargo, los algoritmos no funcionan igual de bien con todo el mundo.
Las personas negras se ven más afectadas por los sesgos y errores de la inteligencia artificial.
Si los algoritmos se entrenan con imágenes de personas blancas o con textos sexistas, los programas reflejarán después estos sesgos. Los expertos en IA buscan soluciones para evitarlo.
¿Cómo podemos enseñar normas morales de comportamiento a una máquina? La ética no puede basarse en la opinión mayoritaria sobre el bien y el mal ni en un rígido código de conducta.
Principales colaboradores
-
Profesora contratada doctora de Derecho Penal, Universitat de les Illes Balears
-
Directora de comunicación digital, Universidad de Deusto
-
Profesor Titular de Lenguajes y Sistemas Informáticos, Universidad Carlos III
-
Investigadora Posdoctoral, Universidad de Deusto
-
Catedrática de Psicología, Universidad de Deusto
-
Professor de los Estudios de Informática Multimedia y Telecomunicación, y director de la Escuela de Doctorado, UOC - Universitat Oberta de Catalunya
-
Profesora, UOC - Universitat Oberta de Catalunya
-
Coordinadora de Investigación UNIR México, UNIR - Universidad Internacional de La Rioja
-
Directora del Departamento de Criminología y Seguridad, Universidad Camilo José Cela
-
Profesor Contratado Doctor, UNIR - Universidad Internacional de La Rioja
-
Investigador en el Instituto de Inteligencia Artificial Experiencial, Northeastern University
-
Profesor del Área de Ciencias de la Computación e Inteligencia Artificial, Universidad Pública de Navarra
-
Associate professor, Faculty of Education and Sport, Universidad de Deusto
-
Estudiante de Doctorado en Ciencias y Tecnologías Industriales, Universidad Pública de Navarra
-
Profesor Titular en Facultad de Ciencias Sociales de Talavera de la Reina, Universidad de Castilla-La Mancha
