Uso y abuso de los "embeddings"

La variable feota por excelencia de nuestra profesión es el código postal: es categórica, tiene miles de niveles, muchos son infrecuentes, etc. Así que cuando se inventaron los embeddings, hace la tira, se me ocurrió crear uno por defecto. Es decir, una representación en baja dimensión de esa variable que pudiera aplicarse a una variedad de modelos. Y así fue hasta que al cabo de unos minutos se me ocurrió que ya existía una, muy natural, en dos dimensiones, que difícilmente iba a poder ser batida por un constructo ciego a la realidad: latitud y longitud.

La de los embeddings es una más de esas ideas locas surgidas en el seno del ML que, si te la cuentan, dices: vale, tiene sentido pero no va a funcionar. Pero que resulta que va y funciona, tú. Tiene que haber habido millones de otras ideas/ocurrencias similares que hayan acabado no funcionando, pero esta resulta que sí. Sin demostración, como la acupuntura, pero con resultados visibles y contrastables.

Además, ha sido paquetizada tan conveniente y cómodamente que ahora cualquiera puede utilizarla casi para todo, hasta para hacer embeddings de variables categóricas tan consuetudinarias como los días de la semana, como aquí.

Pero, vamos, nah, no lo hagáis.

Nota 1

Me quedó pendiente el siguiente ejercicio: hacer un embedding de los códigos postales en dos dimensiones y ver si reconstruye el mapa de este ingrato país.

Nota 2

Relacionado con la nota anterior, ¿qué cosa es más guay?

  • He reemplazado la variable codigo_postal por sus coordenadas centrales.
  • He reemplazado la variable codigo_postal por su embedding.