¿Pato o conejo? (Y su moraleja)

Supongo que

es conocido de todos. Según la orientación de la imagen, la red neuronal correspondiente la categoriza bien como conejo o bien como pato.

¿El motivo? La red está entrenada con una serie de fotos etiquetadas por humanos y en ellas, las figuras en que parecen conejos están en ciertos ángulos (los naturales en fotos de conejos) y en las que aparecen patos, en otros.

Como ocurre habitualmente, un modelo predictivo no deja de ser un modelo descriptivo de los datos con los que se entrena. Dicho de otra manera, podemos averiguar mucho sobre el conjunto de datos de entrenamiento interrogando al modelo predictivo.

¿Y?

Pues que lo anterior tiene una moraleja más que evidente cuando se habla de sesgos, ética, etc. en el deep learning que, por consideración las buenas luces de mis lectores, me voy a abstener de desarrollar.