Armas de destrucción matemática. Cómo el big-data aumenta la desigualdad y amenaza la democracia.- Cathy O'Neil (1972)

Introducción

 «La crisis financiera dejó bien claro que las matemáticas, que una vez habían sido mi refugio, no sólo estaban profundamente involucradas en los problemas del mundo, sino que además agravaban muchos de ellos. La crisis inmobiliaria, la ruina de grandes entidades financieras, el aumento del desempleo: todo esto había sido impulsado e inducido por matemáticos que blandían fórmulas mágicas. Además, gracias a los extraordinarios poderes que tanto amaba, las matemáticas podrían combinarse con la tecnología para multiplicar el caos y la desgracia, lo que añadía eficacia y magnitud a unos sistemas que entonces comprendí que eran defectuosos. 

 Si hubiéramos estado lúcidos, habríamos dado un paso atrás en este punto para analizar cómo habíamos hecho un mal uso de las matemáticas y cómo podríamos evitar una catástrofe similar en el futuro. Sin embargo, en lugar de eso, justo después de la crisis, las nuevas técnicas matemáticas estaban más de moda que nunca y se extendían a un creciente número de áreas. Funcionaban veinticuatro horas al día procesando petabytes de información, en gran parte extraídos de las redes sociales o de páginas web de comercio electrónico. Y en lugar de prestar cada vez más atención a los movimientos de los mercados financieros mundiales, se dedicaban cada vez más a analizar a los seres humanos, a nosotros. Los matemáticos y los especialistas en estadísticas estudian nuestros deseos, nuestros movimientos y nuestro poder adquisitivo. Predecían nuestra solvencia y calculaban nuestro potencial como estudiantes, trabajadores, amantes o delincuentes. 

 Esta era la economía del big-data, y prometía ganancias especulares. Un programa de ordenador era capaz de procesar miles de currículos o solicitudes de préstamos en un par de segundos y clasificarlos en listas bien ordenadas, con los candidatos más prometedores situados en los primeros puestos. Estos programas no sólo permitían ahorrar tiempo, sino que además se anunciaban como procesos más justos y objetivos. Al fin y al cabo, eran procesos en los que no había seres humanos, con sus prejuicios, escarbando en montones de papel, sino simplemente máquinas procesando números de manera objetiva. En el año 2010 aproximadamente las matemáticas se habían impuesto como nunca antes en los asuntos humanos, y el público en general recibió el cambio con los brazos abiertos. 

 Y, sin embargo, yo veía problemas en el horizonte. Estas aplicaciones fundamentadas en las matemáticas que alimentaban la economía de los datos se basaban en decisiones tomadas por seres humanos que no eran infalibles. Seguro que algunas de esas decisiones se tomaban con la mejor de las intenciones, pero muchos de estos modelos programaban los prejuicios, las equivocaciones y los sesgos humanos en unos sistemas informáticos que dirigían cada vez más nuestras vidas. Cuales dioses, estos modelos matemáticos eran opacos y sus mecanismos resultaban invisibles para todos, salvo para los sumos sacerdotes del sector: los matemáticos y los ingenieros informáticos. Sus veredictos, incluso cuando estaban equivocados o eran perjudiciales, eran indiscutibles e inapelables y solían castigar a los pobres y los oprimidos de nuestra sociedad, al tiempo que enriquecían a los ricos. 

 Se me ocurrió un nombre para este tipo de modelos perniciosos: armas de destrucción matemática o ADM.  […]

01.-Partes de una bomba: ¿qué es un modelo?

 Estos son los 3 elementos que conforman un ADM: la opacidad, la escala y el daño. […]

07.-Sudar balas: en el trabajo.

 Los maestros, además de ser los educadores y cuidadores de nuestros hijos, son, evidentemente, trabajadores. En este sentido quiero profundizar un poco más en los modelos que puntúan su rendimiento, puesto que podrían aplicarse en el futuro a los trabajadores de otros sectores. Consideremos el caso de Tim Clifford, un profesor de secundaria que enseña Lengua y Literatura en Nueva York, con 26 años de experiencia. Hace unos años, Clifford descubrió que había suspendido la evaluación de docentes conocida como el modelo de valor añadido, […] la puntuación de Clifford había sido un ridículo 6 sobre 100. […] El modelo de valor añadido le había dado un suspenso, pero ningún consejo sobre cómo mejorarlo. Conque Clifford siguió dando clase como siempre lo había hecho y confío en que saldría bien. Al año siguiente su puntuación fue de 96. 

[…]

 Un análisis realizado por Gary Rubinstein, un bloguero y educador, demostró que uno de cada 4 profesores que enseñaban la misma asignatura en años consecutivos registraba una diferencia de 40 puntos en el modelo. Esto sugiere que los datos de evaluación son prácticamente aleatorios. No era el rendimiento de los profesores lo que variaba de un año a otro, lo que variaba era la puntuación generada por un ADM que era un auténtico fraude.

 Pese a que sus puntuaciones no tienen sentido alguno, el impacto del modelo de valor añadido es generalizado y muy dañino. “He visto a profesores geniales que, al ver los resultados de esas puntuaciones, empezaron a pensar que podían considerarse mediocres como mucho -dice Clifford-. Dejaron de dar las estupendas clases que solían impartir y se centraron cada vez más en la preparación de las pruebas de final de año. Un profesor joven sufrirá si saca una puntuación baja en el modelo de valor añadido, mientras que, si saca una puntuación alta, puede tener la falsa sensación de haber alcanzado importantes logros que aún no se ha ganado”. 

 Como en el caso de tantas otras ADM, el modelo de valor añadido nació de las buenas intenciones. La administración Obama pronto se percató de que los distritos perjudicados a consecuencia de las reformas de la ley de 2001 denominada “Que ningún niño se quede atrás”, que imponían unas pruebas homologadas muy exigentes, solían ser los más pobres y desfavorecidos. En consecuencia, decidió otorgar exenciones a los distritos que pudiesen demostrar la efectividad de sus maestros y profesores para asegurarse de que dichos centros no resultarían perjudicados aunque sus alumnos se quedaran rezagados. 

 La utilización de modelos de valor añadido nace en gran parte de este cambio legislativo. Sin embargo, a finales de 2015, la moda de la evaluación de los docentes tomó lo que podría ser un giro aún más dramático. En primer lugar, el Congreso y la Casablanca acordaron derogar la ley “Que ningún niño se quede atrás” y sustituirla por una que diese a los Estados mayor libertad para llevar a cabo sus propias estrategias de mejora de los distritos escolares con bajo rendimiento. También se les otorgó un abanico más amplio de criterios que podían considerar, como la implicación de los alumnos y de los profesores, el acceso a trabajo avanzado del curso, el ambiente escolar o la seguridad. En otras palabras, los responsables de educación podían empezar a estudiar lo que ocurre en cada centro individual, y prestar menos atención a las ADM similares a los modelos de valor añadido. O, mejor aún, desecharlas por completo. 

 Aproximadamente en esa misma época, la comisión especial de educación del gobernador de Nueva York, Andrew Cuomo, anunció una moratoria de cuatro años en el uso de exámenes para evaluar a maestros y profesores. A pesar de ser bien recibido, este cambio no marca un rechazo claro a las ADM de evaluación docente, ni mucho menos el reconocimiento de que son injustas. De hecho, la presión provenía de los padres, que se quejaban de que el régimen de pruebas dejaba exhaustos a sus hijos y consumía demasiado tiempo del curso académico. En la primavera de 2015, un movimiento de boicot impidió que un 20 por ciento de los alumnos de tercero a octavo curso (equivalentes a tercero de primaria y segundo de secundaria) realizasen las pruebas. Este movimiento sigue creciendo. Cediendo ante los padres, la administración Cuomo como asestó un duro golpe a los modelos de valor añadido. Al fin y al cabo, si no podía hacer las pruebas a todos los alumnos, el estado carecería de los datos necesarios para alimentar el modelo. 

 Tim Clifford se alegró mucho de esta noticia, aunque sigue preocupado. “El movimiento de boicot forzó a Cuomo a doblegarse –escribía en un correo-. Temía perder el apoyo de los votantes más ricos de los mejores distritos escolares, que fueron precisamente los que más incondicionalmente lo apoyaron. Ha otorgado esta moratoria sobre el uso de las puntuaciones de las pruebas para olvidarse del asunto”. Clifford teme que las pruebas volverán. 

 Y es posible que así sea. Y puesto que los modelos de valor añadido han resultado una herramienta efectiva contra los sindicatos de enseñantes, no creo que lleguen a desaparecer en el futuro cercano. Están bien afianzados: el distrito de Columbia y cuarenta estados en todo el país los usan o desarrollan de una forma u otra. Ésta es una razón más para hacer correr la voz sobre estas y otras ADM. Cuando la gente las reconozca y comprenda sus defectos estadísticos, exigirán evaluaciones más justas, tanto para los alumnos como para los docentes. Sin embargo, si el objetivo de las pruebas es encontrar a alguien a quien echarle la culpa e intimidar a los trabajadores,  entonces, como hemos visto, una ADM que escupe puntuaciones sin sentido saca un sobresaliente.» 

  

     [El texto pertenece a la edición en español de Capitán Swing Libros, 2017, en traducción de Violeta Arranz de la Torre, pp.10-11, 43, 166-167 y 171-173. ISBN: 978-84-947408-4-8.]