Menu Close
Cathy O'Neil retratada por Jeff Benefit. Telos / Jeff Benefit

Cathy O’Neil: “No me fío de los modelos matemáticos para explicar la pandemia”

Cathy O’Neil, doctora en matemáticas por la Universidad de Harvard, ha hecho de los datos y los algoritmos un arma de activismo social. Sus análisis son lógicos y razonados pero también profundos y auténticos.

Trabajó en Wall Street como analista en los tiempos de la Gran Recesión y eso le permitió ver lo que se esconde tras la apariencia brillante y próspera del sector financiero: “Recuerdo la angustia de los jefes de mis jefes porque se equiparasen las tasas hiperreducidas que pagaban con las del impuesto sobre la renta, ¡qué castigo tan terrible, cuando lo único que ellos hacían era que el mercado fuese más eficiente! Tenían preparadas sus excusas para justificar por qué tenían que seguir siendo multimillonarios y por qué no se les podía culpar de nada. Eso me hizo pensar que el mundo no estaba conectado y que el desequilibrio que había era intolerable”.

Eso la llevó a unirse a Occupy Wall Street. En septiembre de 2011 brotó la protesta en los alrededores del parque Zucotti de Nueva York. ¿La razón? Más justicia económica y más control sobre los beneficios de las empresas. O’Neil dirigió las reuniones del grupo de Banca Alternativa, en la que se debatían opciones para contrarrestar el excesivo poder de los bancos.

Es autora del blog mathbabe.org y del libro “Armas de destrucción matemática: Cómo el Big Data aumenta la desigualdad y amenaza la democracia” (Capitán Swing, 2018).

¿Explicar la pandemia? Mejor sin gráficos

Hace apenas un año hablar del futuro era hablar de tecnología: 5G, Inteligencia Artificial, Big Data… Hoy no podemos hablar del futuro sin incluir una variable nueva, desconocida y de origen natural: el surgimiento y la expansión en forma de pandemia del coronavirus SARS-CoV-2.

Durante la pandemia ha sido una constante el uso de modelos matemáticos y datos para analizar y explicar lo que ocurre. Y O’Neil deja clara su posición al respecto: “Aunque no son del todo inútiles, no me fío de ellos”.

Vivió el comienzo de esta crisis global en Nueva York, y desde el principio estuvo atenta a la información que se proporcionaba sobre la evolución de la covid-19: “Cualquiera que fuera el dato, se representaba con una curva de campana, y eso generó falsas expectativas en la gente: que la curva volvería a cero (cosa que no ha pasado), y que la velocidad de bajada (de contagios, hospitalizaciones, muertes…) sería tan rápida como fue la de subida” (cosa que tampoco ha sido así).

Para O’Neil, el problema está en que el uso de modelos hace callar a la gente, que siente que, si no sabe matemáticas, no tiene derecho a opinar. Por eso cree que la comunicación con los ciudadanos tendría que haber sido más sincera y directa, sin gráficos ni hojas de cálculo: “No sabemos cómo se propaga el virus ni cuál es la mejor manera de protegerse; pero pronto sabremos más cosas y se las diremos”.

Al explicar modelos abstractos y no hablar de comportamientos concretos se ha perdido la oportunidad de involucrar a la gente en cómo abordar la pandemia y se le ha quitado poder para enfrentarse a ella.

Encuentro del Foro Telos 2020 entre la matemática Cathy O´Neil y la arquitecta y especialista en inteligencia artificial Angela Shen-Hsieh.

La privacidad, un lujo

Una de las esperanzas de las autoridades sanitarias para el seguimiento de los contagios ha sido el diseño de aplicaciones de rastreo. O’Neil pone en entredicho su utilidad pues en muchos casos depende de las circunstancias económicas y sociales de los usuarios.

Aquí entramos en el terreno de la desigualdad: “Hay que pensar en quienes tienen que coger el metro cada mañana para ir a trabajar”, señala O’Neil, “esas personas no quieren saber que están en riesgo porque son malas noticias y no pueden hacer nada al respecto”.

El problema está en que soluciones de este tipo son tremendamente clasistas, pues dan por sentado que todos pueden permitirse el lujo de quedarse en casa dos semanas, cuando hay muchos ciudadanos que viven al día, para quienes esa opción no es viable.

¿Dónde han funcionado estas apps de rastreo? O’Neil responde: “En países con regímenes autoritarios, como China, donde te obligan a hacer cuarentena. O en países en los que el ciudadano confía en su Gobierno, como Singapur (aunque luego descubrí que no rastreaban a los trabajadores extranjeros que no podían hacer cuarentena)”.

Entonces, “la privacidad es un lujo en el que solo puedes asumir cuando tienes tus necesidades básicas cubiertas”, concluye.

Cathy O'Neil retratada por Jeff Benefit. Telos / Jeff Benefit

Los peligros de la publicidad segmentada

Durante la charla, enmarcada en la segunda edición del Foro Telos “Un mundo en construcción”, surge el tema del uso de los datos recopilados en la red, que permiten segmentar a la población y enviarle, solo y precisamente, aquellos mensajes que, por una razón u otra, le interesan o movilizan.

“Los anuncios personalizados son el alma de Internet, pero eso no los convierte necesariamente en algo bueno”. Y menos aún en el caso de la publicidad política a la que califica directamente de “mala para la democracia”.

Estos productos, en muchos casos sesgados y maliciosos y que solo buscan la manipulación y la desinformación, están destinados a las personas vulnerables a esos mensajes. La posición O’Neil es clara a este respecto: “Los anuncios políticos deben ser tipo banner y mostrarse de forma aleatoria a gente aleatoria. La segmentación no debería ser legal en este ámbito”.

También es verdad que Internet ofrece cosas que gustan: “Me halaga que conozcan mis preferencias. Pero soy consciente de que lo único que quieren de mí es mi dinero y que mi sensación de bienestar es solo un efecto colateral de ese hecho”.

Desequilibrio intolerable

Con respecto al peligro de los gigantes digitales (Google, Amazon, Facebook, Apple…) O’Neil afirma: “El poder atrae al poder, Amazon será la única empresa de productos de consumo, Apple la única empresa telefónica, Google la única empresa de información y Facebook la única empresa de redes sociales, eso va a pasar”. Ante la aparente imposibilidad de fraccionar a estos gigantes, plantea la opción realista de “obligarles a que realmente traten bien a sus empleados, a que cuiden de sus cadenas de suministro, a que sigan las reglas. Porque eso se puede hacer, aunque sean monopolios”.

O’Neil rememora su aprendizaje de Occupy Wall Street: “Entonces pensaba que necesitábamos unas reglas mejores y estaba indecisa entre dos modelos. Uno era fraccionar los bancos, hacerlos pequeños y locales, y el otro era nacionalizarlos, convertirlos en algo que todos pudieran usar, pero que fuese superaburrido y debiera seguir muchas reglas”. Y, llevando este pensamiento al caso de las tecnológicas concluye: “Así que lo que yo digo es que, si no podemos fraccionarlas, debemos hacerlas aburridas”.

No obstante, el Gobierno de Estados Unidos acaba de anunciar su querella contra Facebook por su posición dominante a través de la adquisición de Whatssapp e Instagram. Quizás la idea de la fragmentación no sea tan descabellada e imposible como parecía hasta ahora. Pasará otro año y veremos.


La versión original de este artículo fue publicada en la Revista Telos, de Fundación Telefónica.


Want to write?

Write an article and join a growing community of more than 119,900 academics and researchers from 3,852 institutions.

Register now