Mostrando entradas con la etiqueta Opacidad. Mostrar todas las entradas
Mostrando entradas con la etiqueta Opacidad. Mostrar todas las entradas

miércoles, 29 de diciembre de 2021

Armas de destrucción matemática. Cómo el big-data aumenta la desigualdad y amenaza la democracia.- Cathy O'Neil (1972)


Resultado de imagen de cathy o'neil
Introducción


 «La crisis financiera dejó bien claro que las matemáticas, que una vez habían sido mi refugio, no sólo estaban profundamente involucradas en los problemas del mundo, sino que además agravaban muchos de ellos. La crisis inmobiliaria, la ruina de grandes entidades financieras, el aumento del desempleo: todo esto había sido impulsado e inducido por matemáticos que blandían fórmulas mágicas. Además, gracias a los extraordinarios poderes que tanto amaba, las matemáticas podrían combinarse con la tecnología para multiplicar el caos y la desgracia, lo que añadía eficacia y magnitud a unos sistemas que entonces comprendí que eran defectuosos. 
 Si hubiéramos estado lúcidos, habríamos dado un paso atrás en este punto para analizar cómo habíamos hecho un mal uso de las matemáticas y cómo podríamos evitar una catástrofe similar en el futuro. Sin embargo, en lugar de eso, justo después de la crisis, las nuevas técnicas matemáticas estaban más de moda que nunca y se extendían a un creciente número de áreas. Funcionaban veinticuatro horas al día procesando petabytes de información, en gran parte extraídos de las redes sociales o de páginas web de comercio electrónico. Y en lugar de prestar cada vez más atención a los movimientos de los mercados financieros mundiales, se dedicaban cada vez más a analizar a los seres humanos, a nosotros. Los matemáticos y los especialistas en estadísticas estudian nuestros deseos, nuestros movimientos y nuestro poder adquisitivo. Predecían nuestra solvencia y calculaban nuestro potencial como estudiantes, trabajadores, amantes o delincuentes. 
 Esta era la economía del big-data, y prometía ganancias especulares. Un programa de ordenador era capaz de procesar miles de currículos o solicitudes de préstamos en un par de segundos y clasificarlos en listas bien ordenadas, con los candidatos más prometedores situados en los primeros puestos. Estos programas no sólo permitían ahorrar tiempo, sino que además se anunciaban como procesos más justos y objetivos. Al fin y al cabo, eran procesos en los que no había seres humanos, con sus prejuicios, escarbando en montones de papel, sino simplemente máquinas procesando números de manera objetiva. En el año 2010 aproximadamente las matemáticas se habían impuesto como nunca antes en los asuntos humanos, y el público en general recibió el cambio con los brazos abiertos. 
 Y, sin embargo, yo veía problemas en el horizonte. Estas aplicaciones fundamentadas en las matemáticas que alimentaban la economía de los datos se basaban en decisiones tomadas por seres humanos que no eran infalibles. Seguro que algunas de esas decisiones se tomaban con la mejor de las intenciones, pero muchos de estos modelos programaban los prejuicios, las equivocaciones y los sesgos humanos en unos sistemas informáticos que dirigían cada vez más nuestras vidas. Cuales dioses, estos modelos matemáticos eran opacos y sus mecanismos resultaban invisibles para todos, salvo para los sumos sacerdotes del sector: los matemáticos y los ingenieros informáticos. Sus veredictos, incluso cuando estaban equivocados o eran perjudiciales, eran indiscutibles e inapelables y solían castigar a los pobres y los oprimidos de nuestra sociedad, al tiempo que enriquecían a los ricos. 
 Se me ocurrió un nombre para este tipo de modelos perniciosos: armas de destrucción matemática o ADM.  […]

01.-Partes de una bomba: ¿qué es un modelo?

 Estos son los 3 elementos que conforman un ADM: la opacidad, la escala y el daño. […]

07.-Sudar balas: en el trabajo.

 Los maestros, además de ser los educadores y cuidadores de nuestros hijos, son, evidentemente, trabajadores. En este sentido quiero profundizar un poco más en los modelos que puntúan su rendimiento, puesto que podrían aplicarse en el futuro a los trabajadores de otros sectores. Consideremos el caso de Tim Clifford, un profesor de secundaria que enseña Lengua y Literatura en Nueva York, con 26 años de experiencia. Hace unos años, Clifford descubrió que había suspendido la evaluación de docentes conocida como el modelo de valor añadido, […] la puntuación de Clifford había sido un ridículo 6 sobre 100. […] El modelo de valor añadido le había dado un suspenso, pero ningún consejo sobre cómo mejorarlo. Conque Clifford siguió dando clase como siempre lo había hecho y confío en que saldría bien. Al año siguiente su puntuación fue de 96. 
[…]
 Un análisis realizado por Gary Rubinstein, un bloguero y educador, demostró que uno de cada 4 profesores que enseñaban la misma asignatura en años consecutivos registraba una diferencia de 40 puntos en el modelo. Esto sugiere que los datos de evaluación son prácticamente aleatorios. No era el rendimiento de los profesores lo que variaba de un año a otro, lo que variaba era la puntuación generada por un ADM que era un auténtico fraude.
Resultado de imagen de cathy o'neil armas de destrucción matematica Pese a que sus puntuaciones no tienen sentido alguno, el impacto del modelo de valor añadido es generalizado y muy dañino. “He visto a profesores geniales que, al ver los resultados de esas puntuaciones, empezaron a pensar que podían considerarse mediocres como mucho -dice Clifford-. Dejaron de dar las estupendas clases que solían impartir y se centraron cada vez más en la preparación de las pruebas de final de año. Un profesor joven sufrirá si saca una puntuación baja en el modelo de valor añadido, mientras que, si saca una puntuación alta, puede tener la falsa sensación de haber alcanzado importantes logros que aún no se ha ganado”. 
 Como en el caso de tantas otras ADM, el modelo de valor añadido nació de las buenas intenciones. La administración Obama pronto se percató de que los distritos perjudicados a consecuencia de las reformas de la ley de 2001 denominada “Que ningún niño se quede atrás”, que imponían unas pruebas homologadas muy exigentes, solían ser los más pobres y desfavorecidos. En consecuencia, decidió otorgar exenciones a los distritos que pudiesen demostrar la efectividad de sus maestros y profesores para asegurarse de que dichos centros no resultarían perjudicados aunque sus alumnos se quedaran rezagados. 
 La utilización de modelos de valor añadido nace en gran parte de este cambio legislativo. Sin embargo, a finales de 2015, la moda de la evaluación de los docentes tomó lo que podría ser un giro aún más dramático. En primer lugar, el Congreso y la Casablanca acordaron derogar la ley “Que ningún niño se quede atrás” y sustituirla por una que diese a los Estados mayor libertad para llevar a cabo sus propias estrategias de mejora de los distritos escolares con bajo rendimiento. También se les otorgó un abanico más amplio de criterios que podían considerar, como la implicación de los alumnos y de los profesores, el acceso a trabajo avanzado del curso, el ambiente escolar o la seguridad. En otras palabras, los responsables de educación podían empezar a estudiar lo que ocurre en cada centro individual, y prestar menos atención a las ADM similares a los modelos de valor añadido. O, mejor aún, desecharlas por completo. 
 Aproximadamente en esa misma época, la comisión especial de educación del gobernador de Nueva York, Andrew Cuomo, anunció una moratoria de cuatro años en el uso de exámenes para evaluar a maestros y profesores. A pesar de ser bien recibido, este cambio no marca un rechazo claro a las ADM de evaluación docente, ni mucho menos el reconocimiento de que son injustas. De hecho, la presión provenía de los padres, que se quejaban de que el régimen de pruebas dejaba exhaustos a sus hijos y consumía demasiado tiempo del curso académico. En la primavera de 2015, un movimiento de boicot impidió que un 20 por ciento de los alumnos de tercero a octavo curso (equivalentes a tercero de primaria y segundo de secundaria) realizasen las pruebas. Este movimiento sigue creciendo. Cediendo ante los padres, la administración Cuomo como asestó un duro golpe a los modelos de valor añadido. Al fin y al cabo, si no podía hacer las pruebas a todos los alumnos, el estado carecería de los datos necesarios para alimentar el modelo. 
 Tim Clifford se alegró mucho de esta noticia, aunque sigue preocupado. “El movimiento de boicot forzó a Cuomo a doblegarse –escribía en un correo-. Temía perder el apoyo de los votantes más ricos de los mejores distritos escolares, que fueron precisamente los que más incondicionalmente lo apoyaron. Ha otorgado esta moratoria sobre el uso de las puntuaciones de las pruebas para olvidarse del asunto”. Clifford teme que las pruebas volverán. 
 Y es posible que así sea. Y puesto que los modelos de valor añadido han resultado una herramienta efectiva contra los sindicatos de enseñantes, no creo que lleguen a desaparecer en el futuro cercano. Están bien afianzados: el distrito de Columbia y cuarenta estados en todo el país los usan o desarrollan de una forma u otra. Ésta es una razón más para hacer correr la voz sobre estas y otras ADM. Cuando la gente las reconozca y comprenda sus defectos estadísticos, exigirán evaluaciones más justas, tanto para los alumnos como para los docentes. Sin embargo, si el objetivo de las pruebas es encontrar a alguien a quien echarle la culpa e intimidar a los trabajadores,  entonces, como hemos visto, una ADM que escupe puntuaciones sin sentido saca un sobresaliente.» 
  
     [El texto pertenece a la edición en español de Capitán Swing Libros, 2017, en traducción de Violeta Arranz de la Torre, pp.10-11, 43, 166-167 y 171-173. ISBN: 978-84-947408-4-8.]

domingo, 24 de febrero de 2019

Perdón.- Ida Hegazi Hoyer (1981)


Resultado de imagen de ida hegazi 

«No fue un frenazo gradual, no habíamos llegado a una estación. De pronto el tren frenó en seco, con toda la sequedad de que es capaz un tren, y el metal chirrió bajo nuestros pies. [...]
¿Sabes lo que ha sido eso?, me preguntaste. Y mi cara sólo debía expresar caos y rechazo, porque sonreíste y me pusiste la mano en el muslo, como para calmarme. No hay por qué preocuparse, dijiste, no es más que un suicidio.
 Y así empezaste. estabas enardecido. ¿Te cuento una cosa?
 Mueren innumerables personas en las vías de tren noruegas. Prácticamente a diario, hay alguien esperando su tren. Mujeres y hombres, jóvenes y ancianos, por todas partes en el país entero, prácticamente a diario. Se tumban sobre las vías y se ponen a esperar a la locomotora. A veces saltan. se sitúan sobre un puente o a la salida de un túnel y saltan en el momento en que llega el tren. Sucede rápido. A una velocidad vertiginosa, me imagino. La mayoría acaba despedazada mucho antes de que le dé tiempo a sentir el dolor. Como es bien sabido, los trenes no pueden frenar, no frenan del mismo modo que los coches. Y como es bien sabido, los trenes tampoco pueden desviarse, por mucho que quisiera el conductor. Cuando viene el tren, viene el tren. Y si se quiere morir, se quiere morir.    
 Tenías una neutralidad soberbia de la que creo que te enorgullecías. De hecho, en ese momento, te mostraste casi chulo. Trabajabas en la NSB, manejabas información reservada y lo que contabas no te daba ningún miedo, quizá incluso te hiciera cierta gracia. Ya sabes, dijiste, NSB no son las siglas de Norges StatsBaner, las líneas estatales noruegas, sino de Norges SelvmordsBaner, las líneas de suicidios noruegas.
 Pero, ¿cómo sabes que es eso lo que ha ocurrido ahora?, te pregunté. Habrá otros motivos por los que puede detenerse un tren, ¿no?
 No, me atajaste, no los hay, ¡ya lo verás! Y seguiste contándome cosas sobre los procedimientos y las rutinas que te habían enseñado. Como, por ejemplo, que los trenes nunca frenan por animales, que entrenan a los conductores para eso, paras ser capaces de atravesar una manada de renos o un rebaño de ovejas, una familia de alces o una jauría de perros salvajes, han de mantener la mirada al frente, pero acordarse siempre de llevar el tren a lavar una vez que llegan a su destino final. Hay un equipo especial de limpiadores de trenes, dijiste, es obligatorio que lo haya en todas las estaciones principales, un grupo de empleados que asumen la responsabilidad de la limpieza, y los mandan a cursos y a terapia, al igual que al hombre de la cabina de mando. Y ahora, dijiste, ahora nos hemos parado, así que puedes estar segura de que hay una persona tirada en las vías, quizá justamente aquí, debajo de nuestros pies y, antes de continuar, volviste a sonreír: Aunque persona, lo que se dice persona... Quizá ya no se la pueda llamar así.
 Vamos a quedarnos aquí media hora como mínimo, anunciaste. Por los altavoces dirán que tenemos problemas técnicos y en la próxima estación tendremos que cambiar de tren. Ya lo verás, repetiste. Y tuviste razón.
 Yo era incapaz de comprender que alguien se quitara la vida de esta manera, hablamos de eso durante la espera. Pero la conversación fue breve. ¿Qué tiene de incomprensible?, preguntaste y, en el fondo, nunca me atrevía a acercarme al lado opuesto de la comprensión.
 Con eso terminó la conversación. Con eso empezó tu monólogo.
 Me contaste que la Agencia Estatal de Estadística clasifica los suicidios en siete categorías distintas. No son demasiado minuciosos, se atienen a los siete métodos más frecuentes: el envenenamiento, el ahorcamiento o asfixia, y el disparo o materiales explosivos. Al decir materiales explosivos te reíste un poco y preguntaste: ¿Crees que hay mucha gente que se mata con dinamita? ¿O que celebra su propio festín de TNT? Luego están el ahogamiento, claro, las herramientas cortantes o punzantes, el salto desde lugares elevados y, por último, lo que llaman otros métodos o métodos no especificados. ¿Y qué falta entonces?, preguntaste, mirándome como para comprobar que te estaba siguiendo antes de contestarte a ti mismo: Pues lo que falta en la estadística son precisamente los trenes. Los ferrocarriles estatales no quieren hacer público que en el fondo son líneas de suicidios, por eso ocultan las cifras. Es cierto que los casos más evidentes se computan bajo la última categoría, pero para eso el sujeto prácticamente tiene que haberse atado a las vías, haber escrito una carta que no deje lugar a dudas y además tener una familia que no se oponga a reconocer un suicidio entre sus filas. Y con frecuencia no quieren. Con mucha frecuencia la familia prefiere creer, o prefiere hacer creer a los demás, que el hombre que paseaba a lo largo de las vías del tren sólo tuvo mala suerte, que se tropezó o se mareó y no logró apartarse a tiempo, que el zapato se le enganchó a la vía, algo así, lo que sea, y la compañía de ferrocarriles está más que dispuesta a colaborar, de modo que lo registran juntos como un "accidente". ¿Eres consciente de la cantidad de números opacos que hay?, me preguntaste. Se dice que hay números opacos en la evasión fiscal y en la violencia doméstica, pero, por Dios, ¡las mayores cifras opacas se esconden aquí! Ya te puedes imaginar, continuaste. Si son capaces de denominarlo accidente cuando una persona se planta en medio de las vías y se queda mirando apáticamente la locomotora que se precipita hacia ella, imagínate sobre cuántas otras cosas dan explicaciones incorrectas, todo lo que descartan de un plumazo como percances casuales. Y a continuación me hiciste una lista: Sobredosis, mediación errónea, lesiones por cortes, caídas, colisiones de coches, caminos resbaladizos, mala visibilidad, fallos técnicos, accidentes deportivos, accidentes laborales y tragedias festivas, no hay cifras, dijiste, de la cantidad de gente que se quita realmente la vida en nuestro precioso, sano y pequeño país. Por Dios, hay incluso gente que se prende fuego y aun así seguro que hay quien se empeña en malinterpretarlo. ¡Somos capaces de creernos cualquier cosa, coño! Verás, concluiste negando con la cabeza, sólo hay una manera de matarse sin dejar lugar a dudas y es la soga. Cuando la gente se cuelga del techo, es bastante difícil eludir la verdad, ¿no?
 Me sonreíste y me diste una palmada en el muslo. Tu ligereza resultaba excepcionalmente suave y tranquilizadora. Tenías ese don, esa especie de libertad intrínseca que nunca iba en serio, o que quizá fuera en serio, pero no al modo serio. Estás como una cabra, te dije, y creo que pudo sonar como algo positivo, al menos así te lo tomaste tú y, un poco más tarde, mientras esperábamos la llegada del siguiente tren en una estación intermedia, éramos esa pareja que se besa, se morrea y se mete mano en el andén, esa pareja sana y vitalista de veinteañeros despreocupados. Esos éramos nosotros.»
 
      [El texto pertenece a la edición en español de Nórdica Libros, 2017, en traducción de Cristina Gómez-Baggethun. ISBN: 978-84-16830-36-7.]