Weapons of Math Destruction
Así se titula un libro que no he leído y que, pese a lo cual, como los malos críticos, voy a comentar. Los libros suelen estar plagados de hojarasca, tal vez porque de otra manera no se puede hacer crecer un par de ideas más o menos originales a las cientoypico páginas como mínimo que uno espera encontrar entre dos tapas. El relato corto no da caché. Y yo ando corto de tiempo.
Así que haré caso a los comentaristas del libro, que me informan de que revisa desde una perspectiva moral el efecto de los modelos estadísticos y su aplicación a diversos ámbitos que afectan a personas: admisiones, concesiones de créditos, fijaciones de precios y otros. Y que es, además, fiel a su título (concedo que muy ingenioso): los tacha de armas de destrucción masiva por tres de sus presuntas propiedades: son opacos, son ubicuos y causan daño.
¿Opacidad? Es tarde para preocuparse ya de eso. En tiempos, las cosas no eran opacas: el botijo era uno de los instrumentos más sofisticados que mucha gente utilizaba. Pero hoy en día, ¿qué hay que no sea opaco? Usamos ordenadores, programas, etc. y nos fiamos de ellos. Como de los coches o de esos móviles que tienen las piezas pegadas a la caja. Hacemos caso del médico del seguro, que escribe nuestro diagnóstico en un informe en un idioma que parece otro y tomamos medicinas cuya composición se nos escapa. Pagamos impuestos siguiendo reglas que, pensamos, son las correctas (¿quién ha leído y comprendido la ley que rige el IRPF o el IVA?) y casi seguro cualquiera de nosotros está incumpliendo alguna ley oscura. Nadie entiende ni ha entendido jamás una nómina (española). ¿Y de repente queremos que a cualquier gañán del Cercanías que pasa por Coslada entienda una regresión logística? Lo siento, pero la transparencia no es una propiedad, ni siquiera una propiedad deseable, de los cachivaches propios de una sociedad avanzada. Las cosas solo son claras para nuestros intermediarios, llámense médicos, abogados, informáticos o contables.
El daño que se ve que causan, por lo que dicen los comentaristas, parece reducirse a la tendencia a perpetuar ciertos prejuicios. Creemos que la subpoblación X es menos digna de recibir un préstamo y ese sesgo viaja a nuestros modelos; entonces, la subpoblación X seguirá siendo perjudicada por el sistema bancario. Daño.
Ya se ha hablado previamente en estas páginas del papel de los prejuicios, su inmerecida mala prensa y su relación con la modelización estadística. Los prejuicios debidamente modelados son prioris: lo que se sabe antes de ver datos. ¿Qué podemos saber de alguien antes de ver su comportamiento? Su sexo, su raza, su dirección, su nivel de estudios, cómo viste, etc., la primera impresión. De que un modelo construido con primeras impresiones reproduzca nuestros prejuicios, pueden hacerse dos lecturas. La primera, la del libro: que, de algún modo, se nos han colado ahí (¿y que eso es indeseable?).
La segunda, más optimista, es que nuestros prejuicios, o muchos de ellos, en el fondo, están justificados, refrendados por modelos objetivos construidos con datos. Igual a alguien no le guste leer eso y, bien, le daré la bienvenida al club de aquellos a los que no nos gusta leer determinadas cosas. ¡Qué se le va a hacer!
El problema es que, da la impresión, los modelos que discute la autora son de inspiración frecuentista. Seguramente no son adaptativos, no van actualizándose con el comportamiento observado de los sujetos a los que se aplica. Que debería ser una propiedad fundamental de cualquier tipo de modelo de los que discute la autora.
Algunos nacimos y crecimos y aborrecimos barrios que se llamaban Arrabal, San José o Las Fuentes. Teníamos la suerte del esperma en contra (relativamente: no hablamos de Gabón). Pero salimos de ahí sin lloriquear. Los que se quedaron podrán siempre echarle la culpa a algún tipo de weapon of math destruction.
