Una de las ramas más importantes de la ética es la ética normativa, encargada de proponer criterios y normas que regulen la conducta humana dentro de un determinado ámbito. En el científico, suele plantearse desde el enfoque de la deontología: los investigadores deben cumplir ciertos deberes para actuar moralmente, independientemente de las consecuencias que no cumplirlos pudieran tener.
Cuando pensamos en la deontología científica, a todos nos vienen a la mente algunas de sus aplicaciones más mediáticas. Algunos ejemplos son la bioética, la eutanasia y la ética relacionada con la experimentación con animales. Otros más recientes son la ética de la inteligencia artificial o la roboética, que plantean preguntas como qué consideración debemos darle a una máquina con inteligencia dentro de la sociedad.
Es lógico que entre tantos temas apasionantes y controvertidos pase desapercibida en muchos casos una ética del día a día que es esencial para el funcionamiento de los centros de investigación, para el desarrollo digno y honesto de la carrera de los investigadores y para la producción de resultados que tengan un verdadero impacto en la sociedad.
Cuestiones básicas de la ética en investigación
Esta ética o deontología del investigador plantea cuestiones como el ejercicio de la duda metódica y el correcto planteamiento del método científico, el adecuado diseño y desarrollo de los experimentos, el reconocimiento necesario al trabajo de los demás o el uso eficaz de los recursos. También se proponen normas que evitan el plagio, la manipulación o la fabricación de datos o la apropiación de resultados.
Todos los investigadores deberían conocer y aplicar los principios básicos que se recogen en la Declaración sobre la ciencia y el uso del saber científico adoptada por la Conferencia Mundial sobre la Ciencia de la UNESCO del 10 de Julio 1999.
Por desgracia, igual que a un soldado el valor se le supone, a un investigador la ética se le supone. En pocas instituciones y proyectos se realizan formaciones explícitas –y periódicas– acerca de temas éticos y relacionados con la deontología, se proponen y comunican códigos éticos, se evalúa su grado de cumplimiento, se debaten de manera abierta y transparente los temas más controvertidos.
La excepción son aquellos centros y proyectos que, por sus áreas de trabajo, están obligados a que la ética sea uno de los pilares básicos de su labor. Se trata de los temas antes mencionados como la bioética, la investigación con aplicaciones militares o la inteligencia artificial.
El big data en los proyectos
No ha de extrañarnos que una revolución como la que ha supuesto la utilización de la ciencia de datos en investigación no haya provocado una revolución también en las prácticas deontológicas. Las implicaciones de la recogida y tratamiento masivo de datos, o de la producción de modelos descriptivos y predictivos, todavía no se gestionan de manera adecuada en la mayor parte de los casos.
Y no solo en la dimensión ética que tiene que ver con la privacidad y la protección de los datos. También en la organizativa –quién se hace responsable de la protección de los datos, cómo se hace un diseño adecuado de la investigación para proteger la privacidad–, administrativa, técnica –contramedidas y mitigaciones que protegen los datos cuando se capturan, analizan, transmiten o almacenan–, económica y regulatoria.
Haciendo mención solo a este último aspecto, ¿cuántos investigadores saben cómo les afecta el GDPR o la nueva LOPD y cómo deben tener estas normativas en cuenta en su labor? ¿Qué apoyo reciben en este sentido de los centros donde investigan o de las instituciones que financian sus proyectos?
Es verdad que el marco regulatorio europeo ha previsto relajar algunas de sus premisas en el caso de los proyectos de “interés público, científico o de investigación histórica o estadística”. Se permite a investigadores pedir un consentimiento que no especifique los tratamientos que se le van a dar a los datos y almacenarlos al finalizar un proyecto, por si pueden ser de utilidad en otro (siempre y cuando se protejan adecuadamente).
Pero esta relajación de la regulación no hace sino poner más énfasis en los límites que la propia ética de los investigadores debe fijar en algunas prácticas.
Riesgos para los usuarios y sus datos
Hace unos años colaboramos en un proyecto sobre eficiencia energética en el que se utilizaban técnicas de big data. Permitían analizar las lecturas de contadores inteligentes instalados en los domicilios de millones de usuarios de una compañía energética.
Se valoraba el beneficio que los resultados de la investigación podían tener para el medioambiente y, por lo tanto, para la mayoría. Pero analicemos las amenazas a las que podrían haber estado sometidos esos usuarios si no se hubiera planteado el proyecto correctamente.
En primer lugar, pudo haber revelación bajo presiones. La compañía que financiaba el proyecto ofrecía un bono descuento a los clientes que cedieran sus datos a la investigación.
En segundo lugar, revelación imprevista. Durante el proyecto se constató cómo a partir de los datos se podía predecir cuántas personas vivían en la casa, su género, edad y nivel socioeconómico, sus hábitos de alimentación y sueño, sus horarios y hobbies. Y los usuarios podían no saberlo o no comprenderlo al proporcionar su consentimiento para participar en el estudio.
En tercer lugar, podría haberse observado inseguridad. Si los datos recogidos no se hubieran protegido adecuadamente podrían haber terminado en manos de terceros.
En cuarto lugar, se podría haber producido vigilancia particular o masiva a partir de los datos. Aunque se anonimizaron, se ha demostrado en los últimos años que este tipo de estrategias pueden deshacerse con cierta facilidad –sobre todo, si se cuenta con otros conjuntos de datos masivos relacionados con los mismos usuarios–.
En quinto lugar, se pudo producir apropiación y restricción de acceso. Las entidades o grupos de investigación participantes en el proyecto podrían haber actuado como si fueran los dueños de los datos, impidiendo a los usuarios ejercer sus derechos de acceso o poniendo trabas con falta de transparencia.
Y en sexto lugar, se pudo producir distorsión al extraer conclusiones equivocadas con los modelos producidos por utilizar datos con origen equivocado, incompletos u obsoletos.
El mismo tipo de amenazas las hemos observado después en otros proyectos de investigación. En el área de la demografía, basados en datos extraídos de censos electorales. En el área de la teoría de la comunicación y del análisis de las fake news, basados en datos extraídos de redes sociales. En el área de la geografía urbana, basados en datos de sensores instalados en la red de transporte público y en aparcamientos municipales o de bicicletas.
Deberes de los investigadores
Los principales retos a los que se enfrentan los investigadores en lo que se refiere a la privacidad y a la protección de datos en este tipo de proyectos suelen ser la naturaleza exploratoria de muchos estudios.
Cuando se comienza el proyecto todavía no se sabe muy bien qué uso se le va a dar los datos, por lo que no se suele ser muy explícito en los consentimientos ni se suele minimizar la recogida de información. También la falta de recursos y de formación y, en general, la falta de apoyo por parte de las instituciones y centros.
Es una obligación ética de los investigadores conocer las amenazas para los implicados, comunicarlas adecuadamente y poner medidas para evitarlas o, por lo menos, para mitigar sus impactos. Esto debe hacerse desde la fase de propuesta y planificación del proyecto, con un enfoque proactivo, preventivo y centrado en el usuario/sujeto de la investigación.
Dos herramientas esenciales para poner en marcha estas buenas prácticas son el plan de gestión de datos y cumplimiento y el comité ético o asesor en cada proyecto de investigación. Ambos deben servir de guía en el cumplimiento de la regulación y de brújula en todos los aspectos éticos que puedan afectar al proyecto.
Y por supuesto, la autoregulación, basada en una educación y concienciación gracias a asignaturas de ética en las carreras universitarias, cursos en los másteres de investigación y programas de doctorado y formaciones para los investigadores principales de los proyectos y otros gestores involucrados.
Investigadores, gestores, universidades, centros de investigación y empresas tienen que ser conscientes del reto que afrontamos: los datos, por definición, son la base de cualquier investigación científica de calidad.
El big data puede ser, por tanto, una herramienta muy potente para el avance del conocimiento en muchos campos. Pero sin un adecuado cumplimiento de la regulación vigente y, sobre todo, sin unos buenos planteamientos éticos de los proyectos de investigación, también puede ser una fuente de amenazas para los sujetos de las investigaciones y su privacidad.
Seamos responsables. De nosotros depende que retornen a la sociedad los impactos positivos del tratamiento masivo de datos en ciencia sin que se sufran sus potenciales efectos negativos.
La versión original de este artículo ha sido publicada en la Revista Telos 111, de Fundación Telefónica.