Armas de destrucción matemática. Cómo el big-data aumenta la desigualdad y amenaza la democracia.- Cathy O'Neil (1972)

Introducción

 «La crisis financiera dejó bien claro que las matemáticas, que una vez habían sido mi refugio, no sólo estaban profundamente involucradas en los problemas del mundo, sino que además agravaban muchos de ellos. La crisis inmobiliaria, la ruina de grandes entidades financieras, el aumento del desempleo: todo esto había sido impulsado e inducido por matemáticos que blandían fórmulas mágicas. Además, gracias a los extraordinarios poderes que tanto amaba, las matemáticas podrían combinarse con la tecnología para multiplicar el caos y la desgracia, lo que añadía eficacia y magnitud a unos sistemas que entonces comprendí que eran defectuosos. 

 Si hubiéramos estado lúcidos, habríamos dado un paso atrás en este punto para analizar cómo habíamos hecho un mal uso de las matemáticas y cómo podríamos evitar una catástrofe similar en el futuro. Sin embargo, en lugar de eso, justo después de la crisis, las nuevas técnicas matemáticas estaban más de moda que nunca y se extendían a un creciente número de áreas. Funcionaban veinticuatro horas al día procesando petabytes de información, en gran parte extraídos de las redes sociales o de páginas web de comercio electrónico. Y en lugar de prestar cada vez más atención a los movimientos de los mercados financieros mundiales, se dedicaban cada vez más a analizar a los seres humanos, a nosotros. Los matemáticos y los especialistas en estadísticas estudian nuestros deseos, nuestros movimientos y nuestro poder adquisitivo. Predecían nuestra solvencia y calculaban nuestro potencial como estudiantes, trabajadores, amantes o delincuentes. 

 Esta era la economía del big-data, y prometía ganancias especulares. Un programa de ordenador era capaz de procesar miles de currículos o solicitudes de préstamos en un par de segundos y clasificarlos en listas bien ordenadas, con los candidatos más prometedores situados en los primeros puestos. Estos programas no sólo permitían ahorrar tiempo, sino que además se anunciaban como procesos más justos y objetivos. Al fin y al cabo, eran procesos en los que no había seres humanos, con sus prejuicios, escarbando en montones de papel, sino simplemente máquinas procesando números de manera objetiva. En el año 2010 aproximadamente las matemáticas se habían impuesto como nunca antes en los asuntos humanos, y el público en general recibió el cambio con los brazos abiertos. 

 Y, sin embargo, yo veía problemas en el horizonte. Estas aplicaciones fundamentadas en las matemáticas que alimentaban la economía de los datos se basaban en decisiones tomadas por seres humanos que no eran infalibles. Seguro que algunas de esas decisiones se tomaban con la mejor de las intenciones, pero muchos de estos modelos programaban los prejuicios, las equivocaciones y los sesgos humanos en unos sistemas informáticos que dirigían cada vez más nuestras vidas. Cuales dioses, estos modelos matemáticos eran opacos y sus mecanismos resultaban invisibles para todos, salvo para los sumos sacerdotes del sector: los matemáticos y los ingenieros informáticos. Sus veredictos, incluso cuando estaban equivocados o eran perjudiciales, eran indiscutibles e inapelables y solían castigar a los pobres y los oprimidos de nuestra sociedad, al tiempo que enriquecían a los ricos. 

 Se me ocurrió un nombre para este tipo de modelos perniciosos: armas de destrucción matemática o ADM.  […]

01.-Partes de una bomba: ¿qué es un modelo?

 Estos son los 3 elementos que conforman un ADM: la opacidad, la escala y el daño. […]

07.-Sudar balas: en el trabajo.

 Los maestros, además de ser los educadores y cuidadores de nuestros hijos, son, evidentemente, trabajadores. En este sentido quiero profundizar un poco más en los modelos que puntúan su rendimiento, puesto que podrían aplicarse en el futuro a los trabajadores de otros sectores. Consideremos el caso de Tim Clifford, un profesor de secundaria que enseña Lengua y Literatura en Nueva York, con 26 años de experiencia. Hace unos años, Clifford descubrió que había suspendido la evaluación de docentes conocida como el modelo de valor añadido, […] la puntuación de Clifford había sido un ridículo 6 sobre 100. […] El modelo de valor añadido le había dado un suspenso, pero ningún consejo sobre cómo mejorarlo. Conque Clifford siguió dando clase como siempre lo había hecho y confío en que saldría bien. Al año siguiente su puntuación fue de 96. 

[…]

 Un análisis realizado por Gary Rubinstein, un bloguero y educador, demostró que uno de cada 4 profesores que enseñaban la misma asignatura en años consecutivos registraba una diferencia de 40 puntos en el modelo. Esto sugiere que los datos de evaluación son prácticamente aleatorios. No era el rendimiento de los profesores lo que variaba de un año a otro, lo que variaba era la puntuación generada por un ADM que era un auténtico fraude.

 Pese a que sus puntuaciones no tienen sentido alguno, el impacto del modelo de valor añadido es generalizado y muy dañino. “He visto a profesores geniales que, al ver los resultados de esas puntuaciones, empezaron a pensar que podían considerarse mediocres como mucho -dice Clifford-. Dejaron de dar las estupendas clases que solían impartir y se centraron cada vez más en la preparación de las pruebas de final de año. Un profesor joven sufrirá si saca una puntuación baja en el modelo de valor añadido, mientras que, si saca una puntuación alta, puede tener la falsa sensación de haber alcanzado importantes logros que aún no se ha ganado”. 

 Como en el caso de tantas otras ADM, el modelo de valor añadido nació de las buenas intenciones. La administración Obama pronto se percató de que los distritos perjudicados a consecuencia de las reformas de la ley de 2001 denominada “Que ningún niño se quede atrás”, que imponían unas pruebas homologadas muy exigentes, solían ser los más pobres y desfavorecidos. En consecuencia, decidió otorgar exenciones a los distritos que pudiesen demostrar la efectividad de sus maestros y profesores para asegurarse de que dichos centros no resultarían perjudicados aunque sus alumnos se quedaran rezagados. 

 La utilización de modelos de valor añadido nace en gran parte de este cambio legislativo. Sin embargo, a finales de 2015, la moda de la evaluación de los docentes tomó lo que podría ser un giro aún más dramático. En primer lugar, el Congreso y la Casablanca acordaron derogar la ley “Que ningún niño se quede atrás” y sustituirla por una que diese a los Estados mayor libertad para llevar a cabo sus propias estrategias de mejora de los distritos escolares con bajo rendimiento. También se les otorgó un abanico más amplio de criterios que podían considerar, como la implicación de los alumnos y de los profesores, el acceso a trabajo avanzado del curso, el ambiente escolar o la seguridad. En otras palabras, los responsables de educación podían empezar a estudiar lo que ocurre en cada centro individual, y prestar menos atención a las ADM similares a los modelos de valor añadido. O, mejor aún, desecharlas por completo. 

 Aproximadamente en esa misma época, la comisión especial de educación del gobernador de Nueva York, Andrew Cuomo, anunció una moratoria de cuatro años en el uso de exámenes para evaluar a maestros y profesores. A pesar de ser bien recibido, este cambio no marca un rechazo claro a las ADM de evaluación docente, ni mucho menos el reconocimiento de que son injustas. De hecho, la presión provenía de los padres, que se quejaban de que el régimen de pruebas dejaba exhaustos a sus hijos y consumía demasiado tiempo del curso académico. En la primavera de 2015, un movimiento de boicot impidió que un 20 por ciento de los alumnos de tercero a octavo curso (equivalentes a tercero de primaria y segundo de secundaria) realizasen las pruebas. Este movimiento sigue creciendo. Cediendo ante los padres, la administración Cuomo como asestó un duro golpe a los modelos de valor añadido. Al fin y al cabo, si no podía hacer las pruebas a todos los alumnos, el estado carecería de los datos necesarios para alimentar el modelo. 

 Tim Clifford se alegró mucho de esta noticia, aunque sigue preocupado. “El movimiento de boicot forzó a Cuomo a doblegarse –escribía en un correo-. Temía perder el apoyo de los votantes más ricos de los mejores distritos escolares, que fueron precisamente los que más incondicionalmente lo apoyaron. Ha otorgado esta moratoria sobre el uso de las puntuaciones de las pruebas para olvidarse del asunto”. Clifford teme que las pruebas volverán. 

 Y es posible que así sea. Y puesto que los modelos de valor añadido han resultado una herramienta efectiva contra los sindicatos de enseñantes, no creo que lleguen a desaparecer en el futuro cercano. Están bien afianzados: el distrito de Columbia y cuarenta estados en todo el país los usan o desarrollan de una forma u otra. Ésta es una razón más para hacer correr la voz sobre estas y otras ADM. Cuando la gente las reconozca y comprenda sus defectos estadísticos, exigirán evaluaciones más justas, tanto para los alumnos como para los docentes. Sin embargo, si el objetivo de las pruebas es encontrar a alguien a quien echarle la culpa e intimidar a los trabajadores,  entonces, como hemos visto, una ADM que escupe puntuaciones sin sentido saca un sobresaliente.» 

  

     [El texto pertenece a la edición en español de Capitán Swing Libros, 2017, en traducción de Violeta Arranz de la Torre, pp.10-11, 43, 166-167 y 171-173. ISBN: 978-84-947408-4-8.]

Historia cultural del dolor.- Javier Moscoso (1966)

 

Capítulo I: Representaciones

El teatro de la crueldad

«La visualización del sufrimiento físico, sin ser exclusiva del Mundo Moderno, sí alcanzó entonces una centralidad tan sólo comparable a la proliferación de imágenes de dolor extremo características de la segunda mitad del siglo XX o de los primeros años del siglo XXI. Antes, como ahora, la teatralidad de la representación atenúa o ensalza la violencia. Su significado viene dado por el formato en el que se presenta y por el modo en el que se distribuye; pues sólo a través de la mediación tecnológica el dolor se transforma en historia, en un relato construido con fragmentos de emociones tan diversas como la devoción, la conmiseración, la piedad, el miedo, la indignación, el espanto, el terror o la lubricidad. En esto no hemos cambiado nada. Por una parte, la historia del dolor, tanto más aún su visualización y representación gráfica, no atañe a los hechos ya pasados, sino a las experiencias meramente imaginadas. Por la otra, el dolor de la historia, esa forma constitutiva de la experiencia, se sirve de la representación visual para transformar la emoción en relato.

  A efectos meramente explicativos, cabría distinguir cinco grandes grupos de representaciones en las que el padecimiento físico adquirió preeminencia visual en el Mundo Moderno: el contexto teológico, la actividad bélica, el ámbito punitivo, la representación anatómica, así como la práctica de la medicina. Estos grandes nichos pueden, a su vez, subdividirse. El contexto teológico incluiría la representación de los sufrimientos del Infierno o del Purgatorio, la hagiografía, el ascetismo y el martirio de santos, así como las escenas de la Pasión. De la misma manera, la actividad bélica comprendería las luchas entre Estados, las movilizaciones sociales, las guerras de religión, las revueltas populares así como los conflictos derivados de campañas de conquista y colonización. Por su parte, el ámbito jurídico incluiría el uso del dolor en ejecuciones públicas tanto como en procesos o interrogatorios judiciales. En todos los casos, la representación del sufrimiento se inscribe en un contexto imaginario compuesto de elementos visuales y narrativos; forma parte de una abstracción que remite al mismo tiempo a lo cotidiano y a lo extraordinario, a lo privado y a lo público, a lo lejano y a lo próximo, a lo de uno y a lo de otros, a lo histórico y a lo fabulado. La representación se mantiene fiel a dos principios rectores. En primer lugar, el dolor se da a conocer de manera reiterativa, monótona, interminable. En segundo lugar, el sufrimiento se expresa bajo la modalidad del máximo dolor posible.

  Antes como ahora, la violencia se sirve de medios tecnológicos. La cultura visual del dolor a finales del siglo XX no podría haber existido sin la proliferación de formas estandarizadas y mecánicas de reproducción de imágenes. A finales de la Edad Media, la invención de la imprenta, y la consiguiente eclosión iconográfica, constituyó un elemento central en las luchas religiosas, en las revueltas políticas o, como veremos más adelante, en los textos anatómicos. Los mejores grabadores del Mundo Moderno, como Pieter Brueghel, Jacques Callot, Lucas Cranach o el propio Durero, participaron en esta implementación tecnológica del espectáculo de la violencia. La experiencia privada parecía indisociablemente ligada a sus formas de distribución pública. O más bien al contrario, las formas de distribución social de las imágenes permitían y configuraban la formación de la experiencia. Después del Concilio de Trento, los usos de las figuras quedaron establecidos y particularmente regulados, hasta el extremo de que los ataques protestantes contra la veneración de los santos, de sus representaciones o de sus reliquias, propició también su florecimiento. En esta relación entre el dolor y la memoria, coincidieron iconografías en principio tan alejadas entre sí como los objetos y las imágenes de culto, los grabados de las guerras de religión y las representaciones anatómicas. Los tres se erigieron sobre una desproporción punitiva que hacía posible servirse del dolor como instrumento al mismo tiempo emocional y cognitivo. El cuerpo, ya fuera el del criminal, el del mártir o el del individuo anatomizado, estuvo llamado a convertirse en ejemplo. Sus usos fueron muy distintos, como diferentes fueron sus formas de consumo, pero los tres grupos mantuvieron importantes similitudes. Ni el ideal moral, ni el ejemplo punitivo, ni el modelo anatómico representaban lo cotidiano, sino lo sobrenatural o lo intangible. Los tres casos privilegiaban la violencia como forma de acceso a un espacio al mismo tiempo cercano e inaccesible. Por último, la invisibilidad de estos modelos ideales se presentaba bajo la rúbrica de una certeza plena y colectiva. Alrededor de la representación del dolor se daban cita lo emocional y lo epistémico. En los tres casos, la verdad se manifestaba a través de la destrucción de la carne.

  Pese a sus diferencias de uso, esta forma pautada de representación del daño ha quedado inscrita en nuestro imaginario colectivo. Liberada de sus constricciones nemotécnicas, de sus valores imitativos, de su carácter fundacional o de sus usos religiosos, la representación del dolor todavía se expresa hoy según las reglas del ritual de paso. Ahora, como antes, los cuerpos habitan espacios indeterminados y geografías distópicas. Algunas de las imágenes más emblemáticas de la cultura visual de finales del siglo XX comparten esta característica. Puede ser la reciente imagen de un joven haitiano paseando desnudo, de espaldas, por las ruinas de Puerto Príncipe, o los autorretratos del artista David Nebreda. La violencia se expresa bajo la forma ritualizada de la indeterminación geográfica y la universalidad temporal. Nuestros iconos remiten a modelos asentados en la construcción retórica del ejemplo o del modelo. Su diferente valor cultural no elimina la similitud icónica. Por el contrario, hemos aprendido a representar nuestro dolor en un marco heredado, ocupado por valores y prácticas que ya no reconocemos como propias. Hemos cambiado las sábanas, pero dormimos en camas ajenas nuestros sueños de violencia.»

     [El texto pertenece a la edición en español de Santillana Ediciones Generales, 2011. ISBN: 978-84-306-0815-7.]