Armas de destrucción matemática. Cómo el big-data aumenta la desigualdad y amenaza la democracia.- Cathy O'Neil (1972)

Introducción

 «La crisis financiera dejó bien claro que las matemáticas, que una vez habían sido mi refugio, no sólo estaban profundamente involucradas en los problemas del mundo, sino que además agravaban muchos de ellos. La crisis inmobiliaria, la ruina de grandes entidades financieras, el aumento del desempleo: todo esto había sido impulsado e inducido por matemáticos que blandían fórmulas mágicas. Además, gracias a los extraordinarios poderes que tanto amaba, las matemáticas podrían combinarse con la tecnología para multiplicar el caos y la desgracia, lo que añadía eficacia y magnitud a unos sistemas que entonces comprendí que eran defectuosos. 

 Si hubiéramos estado lúcidos, habríamos dado un paso atrás en este punto para analizar cómo habíamos hecho un mal uso de las matemáticas y cómo podríamos evitar una catástrofe similar en el futuro. Sin embargo, en lugar de eso, justo después de la crisis, las nuevas técnicas matemáticas estaban más de moda que nunca y se extendían a un creciente número de áreas. Funcionaban veinticuatro horas al día procesando petabytes de información, en gran parte extraídos de las redes sociales o de páginas web de comercio electrónico. Y en lugar de prestar cada vez más atención a los movimientos de los mercados financieros mundiales, se dedicaban cada vez más a analizar a los seres humanos, a nosotros. Los matemáticos y los especialistas en estadísticas estudian nuestros deseos, nuestros movimientos y nuestro poder adquisitivo. Predecían nuestra solvencia y calculaban nuestro potencial como estudiantes, trabajadores, amantes o delincuentes. 

 Esta era la economía del big-data, y prometía ganancias especulares. Un programa de ordenador era capaz de procesar miles de currículos o solicitudes de préstamos en un par de segundos y clasificarlos en listas bien ordenadas, con los candidatos más prometedores situados en los primeros puestos. Estos programas no sólo permitían ahorrar tiempo, sino que además se anunciaban como procesos más justos y objetivos. Al fin y al cabo, eran procesos en los que no había seres humanos, con sus prejuicios, escarbando en montones de papel, sino simplemente máquinas procesando números de manera objetiva. En el año 2010 aproximadamente las matemáticas se habían impuesto como nunca antes en los asuntos humanos, y el público en general recibió el cambio con los brazos abiertos. 

 Y, sin embargo, yo veía problemas en el horizonte. Estas aplicaciones fundamentadas en las matemáticas que alimentaban la economía de los datos se basaban en decisiones tomadas por seres humanos que no eran infalibles. Seguro que algunas de esas decisiones se tomaban con la mejor de las intenciones, pero muchos de estos modelos programaban los prejuicios, las equivocaciones y los sesgos humanos en unos sistemas informáticos que dirigían cada vez más nuestras vidas. Cuales dioses, estos modelos matemáticos eran opacos y sus mecanismos resultaban invisibles para todos, salvo para los sumos sacerdotes del sector: los matemáticos y los ingenieros informáticos. Sus veredictos, incluso cuando estaban equivocados o eran perjudiciales, eran indiscutibles e inapelables y solían castigar a los pobres y los oprimidos de nuestra sociedad, al tiempo que enriquecían a los ricos. 

 Se me ocurrió un nombre para este tipo de modelos perniciosos: armas de destrucción matemática o ADM.  […]

01.-Partes de una bomba: ¿qué es un modelo?

 Estos son los 3 elementos que conforman un ADM: la opacidad, la escala y el daño. […]

07.-Sudar balas: en el trabajo.

 Los maestros, además de ser los educadores y cuidadores de nuestros hijos, son, evidentemente, trabajadores. En este sentido quiero profundizar un poco más en los modelos que puntúan su rendimiento, puesto que podrían aplicarse en el futuro a los trabajadores de otros sectores. Consideremos el caso de Tim Clifford, un profesor de secundaria que enseña Lengua y Literatura en Nueva York, con 26 años de experiencia. Hace unos años, Clifford descubrió que había suspendido la evaluación de docentes conocida como el modelo de valor añadido, […] la puntuación de Clifford había sido un ridículo 6 sobre 100. […] El modelo de valor añadido le había dado un suspenso, pero ningún consejo sobre cómo mejorarlo. Conque Clifford siguió dando clase como siempre lo había hecho y confío en que saldría bien. Al año siguiente su puntuación fue de 96. 

[…]

 Un análisis realizado por Gary Rubinstein, un bloguero y educador, demostró que uno de cada 4 profesores que enseñaban la misma asignatura en años consecutivos registraba una diferencia de 40 puntos en el modelo. Esto sugiere que los datos de evaluación son prácticamente aleatorios. No era el rendimiento de los profesores lo que variaba de un año a otro, lo que variaba era la puntuación generada por un ADM que era un auténtico fraude.

 Pese a que sus puntuaciones no tienen sentido alguno, el impacto del modelo de valor añadido es generalizado y muy dañino. “He visto a profesores geniales que, al ver los resultados de esas puntuaciones, empezaron a pensar que podían considerarse mediocres como mucho -dice Clifford-. Dejaron de dar las estupendas clases que solían impartir y se centraron cada vez más en la preparación de las pruebas de final de año. Un profesor joven sufrirá si saca una puntuación baja en el modelo de valor añadido, mientras que, si saca una puntuación alta, puede tener la falsa sensación de haber alcanzado importantes logros que aún no se ha ganado”. 

 Como en el caso de tantas otras ADM, el modelo de valor añadido nació de las buenas intenciones. La administración Obama pronto se percató de que los distritos perjudicados a consecuencia de las reformas de la ley de 2001 denominada “Que ningún niño se quede atrás”, que imponían unas pruebas homologadas muy exigentes, solían ser los más pobres y desfavorecidos. En consecuencia, decidió otorgar exenciones a los distritos que pudiesen demostrar la efectividad de sus maestros y profesores para asegurarse de que dichos centros no resultarían perjudicados aunque sus alumnos se quedaran rezagados. 

 La utilización de modelos de valor añadido nace en gran parte de este cambio legislativo. Sin embargo, a finales de 2015, la moda de la evaluación de los docentes tomó lo que podría ser un giro aún más dramático. En primer lugar, el Congreso y la Casablanca acordaron derogar la ley “Que ningún niño se quede atrás” y sustituirla por una que diese a los Estados mayor libertad para llevar a cabo sus propias estrategias de mejora de los distritos escolares con bajo rendimiento. También se les otorgó un abanico más amplio de criterios que podían considerar, como la implicación de los alumnos y de los profesores, el acceso a trabajo avanzado del curso, el ambiente escolar o la seguridad. En otras palabras, los responsables de educación podían empezar a estudiar lo que ocurre en cada centro individual, y prestar menos atención a las ADM similares a los modelos de valor añadido. O, mejor aún, desecharlas por completo. 

 Aproximadamente en esa misma época, la comisión especial de educación del gobernador de Nueva York, Andrew Cuomo, anunció una moratoria de cuatro años en el uso de exámenes para evaluar a maestros y profesores. A pesar de ser bien recibido, este cambio no marca un rechazo claro a las ADM de evaluación docente, ni mucho menos el reconocimiento de que son injustas. De hecho, la presión provenía de los padres, que se quejaban de que el régimen de pruebas dejaba exhaustos a sus hijos y consumía demasiado tiempo del curso académico. En la primavera de 2015, un movimiento de boicot impidió que un 20 por ciento de los alumnos de tercero a octavo curso (equivalentes a tercero de primaria y segundo de secundaria) realizasen las pruebas. Este movimiento sigue creciendo. Cediendo ante los padres, la administración Cuomo como asestó un duro golpe a los modelos de valor añadido. Al fin y al cabo, si no podía hacer las pruebas a todos los alumnos, el estado carecería de los datos necesarios para alimentar el modelo. 

 Tim Clifford se alegró mucho de esta noticia, aunque sigue preocupado. “El movimiento de boicot forzó a Cuomo a doblegarse –escribía en un correo-. Temía perder el apoyo de los votantes más ricos de los mejores distritos escolares, que fueron precisamente los que más incondicionalmente lo apoyaron. Ha otorgado esta moratoria sobre el uso de las puntuaciones de las pruebas para olvidarse del asunto”. Clifford teme que las pruebas volverán. 

 Y es posible que así sea. Y puesto que los modelos de valor añadido han resultado una herramienta efectiva contra los sindicatos de enseñantes, no creo que lleguen a desaparecer en el futuro cercano. Están bien afianzados: el distrito de Columbia y cuarenta estados en todo el país los usan o desarrollan de una forma u otra. Ésta es una razón más para hacer correr la voz sobre estas y otras ADM. Cuando la gente las reconozca y comprenda sus defectos estadísticos, exigirán evaluaciones más justas, tanto para los alumnos como para los docentes. Sin embargo, si el objetivo de las pruebas es encontrar a alguien a quien echarle la culpa e intimidar a los trabajadores,  entonces, como hemos visto, una ADM que escupe puntuaciones sin sentido saca un sobresaliente.» 

  

     [El texto pertenece a la edición en español de Capitán Swing Libros, 2017, en traducción de Violeta Arranz de la Torre, pp.10-11, 43, 166-167 y 171-173. ISBN: 978-84-947408-4-8.]

"La peste".- Albert Camus (1913-1960)

 

 3

«Esta era la evidencia. Claro que siempre podía uno esforzarse en no verla. Podía uno taparse los ojos y negarla, pero la evidencia tiene una fuerza terrible que acaba siempre por arrastrarlo todo. ¿Qué medio puede haber de rechazar los entierros el día en que los seres que amáis necesitan un entierro?

 Pues bien, lo que caracterizaba al principio nuestras ceremonias ¡era la rapidez! Todas las formalidades se habían simplificado y en general las pompas fúnebres se habían suprimido. Los enfermos morían separados de sus familias y estaban prohibidos los rituales velatorios; los que morían por la tarde pasaban la noche solos y los que morían por la mañana eran enterrados sin pérdida de momento. Se avisaba a la familia, por supuesto, pero, en la mayoría de los casos, ésta no podía desplazarse porque estaba en cuarentena si había tenido con ella al enfermo. En el caso en que la familia no hubiera estado antes con el muerto, se presentaba a la hora indicada, que era la de la partida para el cementerio, después de haber lavado el cuerpo y haberlo puesto en el féretro.

 Supongamos que esta formalidad se llevaba a cabo en el hospital donde trabajaba el doctor Rieux. La escuela tenía una salida por detrás del cuerpo principal del edificio. Una gran pieza que daba sobre el corredor estaba llena de féretros. En el corredor mismo, la familia encontraba un solo féretro ya cerrado. En seguida se pasaba a lo más importante, es decir, se hacía firmar ciertos papeles al cabeza de familia. Se cargaba inmediatamente el cuerpo en un coche automóvil que era o bien un verdadero furgón o bien una ambulancia transformada. Los parientes subían en uno de los taxis todavía autorizados y a toda velocidad los coches volaban al cementerio por calles poco céntricas. A la puerta, los guardias detenían el convoy, ponían un sello en el pase oficial, sin el cual era imposible obtener lo que nuestros conciudadanos llamaban una última morada, se apartaban y los coches iban a colocarse detrás de un terreno cuadrado donde múltiples fosas esperaban ser colmadas. Un cura recibía el cuerpo, pues los servicios fúnebres habían sido suprimidos en la iglesia. Se sacaba el féretro entre rezos, se le ponían las cuerdas, se le arrastraba y se le hacía deslizar: daba contra el fondo, el cura agitaba el hisopo y la primera tierra retumbaba en la tapa. La ambulancia había ya partido para someterse a la desinfección y, mientras las paletadas de tierra iban sonando cada vez más sordamente, la familia se amontonaba en el taxi. Un cuarto de hora después estaban en su casa.

 Así, todo pasaba con el máximo de rapidez y el mínimo de peligro. Y, sin duda, por lo menos al principio, es evidente que el sentimiento natural de las familias quedaba lastimado. Pero, en tiempo de peste, esas son consideraciones que no es posible tener en cuenta: se había sacrificado todo a la eficacia. Por lo demás, si la moral de la población había sufrido al principio por estas prácticas, pues el deseo de ser enterrado decentemente está más extendido de lo que se cree, poco después, por suerte, el problema del abastecimiento empezó a ponerse difícil y el interés de los habitantes derivó hacia las preocupaciones inmediatas. Absorbidas por la necesidad de hacer colas, de efectuar gestiones y llenar formalidades si querían comer, las gentes ya no tuvieron tiempo de pensar en la forma en que morían los otros a su alrededor ni en la que morirían ellos un día. Así, esas dificultades materiales que parecían un mal se convirtieron en una ventaja. Y todo hubiera ido bien si la epidemia no se hubiera extendido como ya hemos visto.

 Llegó a suceder que los féretros fueron escasos, faltó tela para las mortajas y lugar en el cementerio. Hubo que reflexionar. Lo más simple, siempre por razones de eficacia, fue agrupar las ceremonias y, cuando era necesario, multiplicar los viajes entre el hospital y el cementerio. Así, en lo que concierne al servicio de Rieux, el hospital disponía en ese momento de cinco féretros; una vez llenos, la ambulancia los cargaba. En el cementerio, se vaciaban las cajas. Los cuerpos, color de herrumbre, eran cargados en angarillas y esperaban bajo un cobertizo, preparado con este fin. Los féretros se regaban con una solución antiséptica, se volvían a llevar al hospital y la operación recomenzaba tantas veces como era necesario. La organización era muy buena y el prefecto estaba satisfecho. Incluso le dijo a Rieux que aquello estaba mejor que las carretas de muertos conducidas por negros, tales como se describían en las crónicas de las antiguas pestes.

 -Sí -dijo Rieux-, el entierro es lo mismo, pero nosotros hacemos fichas. El progreso es incontestable.

 A pesar de ese éxito de la administración, el carácter desagradable que revestían las formalidades obligó a la prefectura a alejar a las familias de las ceremonias. Se toleraba únicamente que fueran a la puerta del cementerio y aun esto no era oficial. Pues en lo que concierne a la última ceremonia, las cosas habían cambiado un poco. Al fondo del cementerio, en un espacio vacío, cubierto de lentiscos, habían cavado dos inmensas fosas. Había una para los hombres y otra para las mujeres. Desde este punto de vista las autoridades respetaban el decoro y sólo más tarde, por la fuerza de los acontecimientos, este último pudor desapareció y se enterraron envueltos, los unos sobre los otros, hombres y mujeres, sin preocuparse de la decencia. Afortunadamente, esta confusión extrema alcanzó solamente los últimos momentos de la plaga. En el período que nos ocupa la separación de las fosas existía y la prefectura ponía en ello mucho empeño. En el fondo de cada una de ellas una gruesa capa de cal viva humeaba y hervía. Al borde del agujero, un montículo de la misma cal dejaba estallar en el aire sus burbujas. Cuando los viajes de la ambulancia terminaban, se llevaban todo el cortejo de las angarillas, se dejaban deslizar hasta el fondo, unos junto a otros, los cuerpos desnudos y más o menos retorcidos, se les cubría con cal viva, después con tierra, pero nada más que hasta cierta altura, reservándose un espacio para los que habían de llegar. Al día siguiente, los parientes eran invitados a firmar en un registro, lo que marcaba la diferencia que puede haber entre los hombres y, por ejemplo, los perros: la comprobación era siempre posible.

 Para todas estas operaciones hacía falta personal y siempre se estaba a punto de carecer de él. Muchos de los enfermeros y de los enterradores, al principio oficiales y después improvisados, murieron de la peste. Por muchas precauciones que se tomasen, el contagio llegaba un día. Pero, bien mirado, lo más asombroso es que no faltaron nunca hombres para esta faena durante todo el tiempo de la epidemia. El período crítico se sintió un poco antes que la peste hubiera alcanzado su momento culminante y las inquietudes del doctor Rieux eran fundadas. La mano de obra no era suficiente ni para los equipos ni para lo que se llamaba el trabajo grueso. Pero a partir del momento en que la peste se apoderó realmente de la ciudad, entonces su exceso mismo arrastró consecuencias muy cómodas, porque desorganizó toda la vida económica y produjo un gran número de desocupados. [...] A partir de ese momento se vio que la miseria era más fuerte que el miedo, tanto más cuanto que el trabajo estaba pagado en proporción al peligro.»

"Un bárbaro en Asia".- Henry Michaux (1899-1984)

 

Un bárbaro en China

 "El chino no mira la Muerte como algo trágico. Un filósofo chino declara muy simplemente: "Un viejo que no sabe morir es un golfo". Así lo entienden.

 Por lo demás, una tercera parte de la China es un cementerio. ¡Pero qué cementerio!

 Cuando vi por primera vez el campo chino, me tocó el corazón. Tumbas, montañas enteras de tumbas, o más bien la ladera de ésta, el costado occidental de aquélla, esta hondonada, cubiertas de tumbas, no tumbas duras y estrechas, sino hemiciclos de piedras... que invitan. No hay error, invitan. Y no asustan a nadie. Todo chino viviente tiene su ataúd. Se siente cómodo con la muerte.

 Cuando muere un hombre en una provincia lejana, le preparan, mientras no pueden mandarlo a su tierra, un cuarto, donde los miembros de la familia, el hijo, la hija, etcétera, vienen a ratos, a reunirse, a meditar un momento, a comer, a conversar, a jugar al Mahjöng.

***

 Lo que más posee el chino, es el arte de esquivarse.

 En la calle se pide un informe cualquiera a un chino y en seguida sale disparado. "Es más prudente, piensa. No hay que meterse en asuntos ajenos. Se empieza por informes. Se acaba a golpes".

 Pueblo que huye de todo, y cuyos ojitos se escapan a los rincones, cuando se los mira de frente.

 Sin embargo, los chinos son excelentes soldados.

 Viejo, viejo pueblo de niños que no quiere saber el fondo de nada.

 La mentira, propiamente dicha, no existe en la China.

 La mentira es una creación de espíritus excesivamente rectos, militarmente rectos, como la impudicia es una invención de personas alejadas de la naturaleza.

 Los chinos se adaptan, comercian, calculan, cambian.

 Siguen la corriente. El campesino chino cree tener trescientas almas.

 Sienten como una dulce caricia todo lo tortuoso de la naturaleza.

 Consideran que la "raíz" es más naturaleza que el tronco.

 Si encuentran en cualquier parte una gran piedra, agujereada, agrietada, la recogen como a un hijo, o más bien como a su padre y la colocan en el jardín sobre un zócalo.

 Si vemos un monumento, una casa, cualquier cosa, a unos veinte metros, no hay que pensar que en pocos segundos la alcanzaremos. Nada es recto, hay que dar vueltas infinitas y uno puede perderse en el camino, y no llegar nunca a lo que tenía a un palmo de la nariz.

 Eso para contrariar la marcha de los "demonios", que sólo pueden andar derecho, pero sobre todo porque lo derecho incomoda al chino y le da una impresión penosa de falsedad.

 Pueblo con moralidad de anémicos, que se nos antoja a menudo para niños, reglas de civismo y de buena conducta, de conducta ejemplar, donde mandan los ritos. Institución singular, única. El ritual, para el que tiene que ver con otros, no puede ser pasado por alto.

 Así no perderá la cara; desde el último cooli hasta el primer mandarín, tratan de no perder su cara, su cara de palo, que a ellos les gusta, y en efecto, no teniendo principios, la cara es la que vale.

 Sabiduría de nenes, pero que tiene sobre todas las otras civilizaciones ventajas asombrosas e inesperadas provenientes, sin duda, del sentido de la eficacia que poseen los chinos (son los inventores del jiujitsu).

 Ocho siglos antes de Confucio, la graciosidad, la dulzura están indicadas como cualidades esenciales en los "libros históricos".