¿Estamos tratando justamente a los "algoritmos"?

I.

A veces hay que tomar decisiones (p.e., ¿quién asciende?, ¿hay que hacer una radiografía?, ¿se concede esta hipoteca?, etc.). Esas decisiones, simplificando mucho, se pueden tomar de dos maneras:

  • Mediante procesos clínicos, donde un experto o conjunto de expertos realiza una evaluación.
  • Mediante procesos actuariales, donde a un algoritmo adecuadamente entrenado y calibrado se le facilitan unos datos para que calcule un scoring.

Nota 1: Aquí estoy utilizando nomenclatura (clínico, actuarial) usada por Paul Meehl (véase esto, esto o esto), aunque a los segundos tal vez cabría llamarlos, con más propiedad, estadísticos. Y sí, se refiere a los que el vulgo llama algoritmos.

Nota 2: Sería ingenuo considerar excluyente la anterior disyuntiva. Por ejemplo, se pueden tomar decisiones basadas en procedimientos administrativos más o menos automáticos, que se parecen en ello a los tomados por los algoritmos pero cuyo entrenamiento y calibración son cuestionables. Tampoco está claro que hayan sido diseñados por expertos en algo. Pienso, por ejemplo, en los procedimientos embebidos en la ANECA, de ser cierto lo que por ahí se cuenta de ella.

II.

Uno puede construir una carrera cómoda —aunque tal vez proporcione más fama que dinero: no hace falta particular talento para ella, así que las barreras de entrada son bajas— dedicándose a:

  1. Averiguar en qué sitios existen procedimientos actuariales en operación.
  2. Indagar qué tipo de errores pueden haber cometido alguna vez. Especialmente si resultaron en perjuicio de miembros de los actuales segmentos brahmánicos de nuestras sociedades piruleta.
  3. Escribir airadamente elevando la anécdota a categoría.

El libro Weapons of Math Destruction (véase esto o esto) no es otra cosa que el proceso anterior repetido en bucle a lo largo de sus diez o doce capítulos. La sección Verne (creo que así se llamaba) de El País, cuando lo leía, consistía eso en la mitad de los artículos. Otros ejemplos más recientes de lo mismo, ambos de El Confidencial, son este sobre una IA secreta en la Seguridad Social o este otro sobre Cabify y demás dizque discriminando a los pobres.

III.

Hay que tomar decisiones. Hay que tomarlas de alguna manera. Pero sea cual sea el procedimiento adoptarlo para tomarlas, la evaluación ha de realizarse comparativamente: ¿qué habría pasado de haberse usado un procedimiento alternativo?

Así, cuando se critica algún algoritmo por algún fallo cometido o por un determinado sesgo aparente, lo suyo sería contrastarlo con el desempeño de su alternativa; en particular, con un procedimiento clínico. El artículo Clinical Versus Actuarial Judgment de P. Meelh et al discute estas cuestiones. En particular, discute:

  • Cómo comparar juicios clínicos y actuariales adecuadamente.
  • Habida cuenta de la enorme evidencia a favor de los procedimientos actuariales, determinar en qué casos y bajo qué circunstancias pueden llegar —excepcionalmente— a funcionar mejor los primeros.
  • Y también, cuáles son las causas de que los juicios clínicos funcionen sistemáticamente peor.

Todo muy recomendable y a unos escasos clicks de tu pantalla.