Estadística

I. Puede que alguien no conozca todavía el concepto de exigencias aisladas de rigor (estadístico). Lo introdujo y describió Scott Alexander aquí. Usufructo y resumo el ejemplo con el que lo introduce: Heráclito decía aquello de que uno no puede bañarse dos veces en el mismo río (porque el agua ya no es la misma, etc.) Heráclito tenía unas vacas. Un señor se las roba. Heráclito las reclama. El señor le dice que las vacas que eran suyas (de Heráclito) ya no existen; que las que dizque ha robado eran otras distintas que andaban solas por ahí, que las encontró y se las llevó a su casa. No sabemos hasta dónde pudo llegar el rigor filosófico y la coherencia de Heráclito. La fabulilla anterior da a entender que, probablemente, no demasiado lejos. ...

Los premios Ig Nobel de este año se han anunciado (y entregado) recientemente. Dos de ellos guardan cierta relación con el asunto de estas páginas: El de demografía ha recaído en Saul Justin Newman, de la universidad de Oxford, por mostrar cómo muchos de los casos de ultracentenarios (personas que viven hasta edades significativamente por encima de los cien) ocurren realmente en lugares donde la esperanza de vida no es particularmente alta, no hay certificados de nacimiento y abundan los errores administrativos y el fraude en las pensiones. De hecho, en esta entrevista afirma cosas tan entretenidas como que en Okinawa, el mejor predictor del lugar donde residen los ultracentenarios es que el registro civil del municipio en cuestión hubiese sido destruido por los bombardeos estadounidenses en la II Guerra Mundial. El de probabilidad, en un equipo de 50 investigadores por el artículo Fair coins tend to land on the same side they started: Evidence from 350,757 flips, cuyo título lo dice todo. El artículo busca la confirmación de resultados anunciados por Persi Diaconis y sus coautores en un artículo que ya mencioné hace años aquí. Puede que a alguien le parezca ridículo e inaudito realizar un experimento consistente en lanzar monedas un total de 350757 veces; pero hay que recordar que el primer problema de estadística que conste documentalmente que se resolvió usando p-valores fue el de determinar si había sesgos en doce dados que se lanzaron 26306 veces allá en 1900 (véase esto). ...

Hay un blog que conoció mejores tiempos, lleva varios años en caída libre y estoy por quitar de mi lista de RSS: NadaEsgratis. Para aprender de lo que trata hay mejores sitios. Y de lo único que informa, el lastimoso estado de la disciplina en cuestión en España, es agua sobre mojado. Pero de vez en cuando inspira entradas. Por ejemplo, Estadística y fraude electoral: lo que el teorema central del límite nos revela acerca del régimen de Putin, de Manuel Bagues. ...

Esta es la función de Rosenbrock, también conocida como función plátano o —en algunos contextos— como el coco: Es una de esas funciones contra la que tienen que demostrar su valía los algoritmos de optimización que los matemáticos discurren por ahí. La función ilustra uno de los problemas habituales de la optimización: las variables se confabulan para que las ideas simples no funcionen: los gradientes no apuntan hacia el mínimo, este se encuentra en un valle estrecho, etc. Y que conste que las he visto peores en la práctica. ...

I. Si uno hace n <- 1000 # dos clases del mismo tamaño n x <- c(rep(0, n), rep(1, n)) # mean(y0) = .45, mean(y1) = .55 y0 <- y1 <- rep(0, n) y0[1:(.45 * n)] <- 1 y1[1:(.55 * n)] <- 1 # mean(y) = .5 y <- c(y0, y1) summary(lm(y ~ x)) obtiene Residuals: Min 1Q Median 3Q Max -0.55 -0.45 0.00 0.45 0.55 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 0.45000 0.01574 28.590 < 2e-16 *** x 0.10000 0.02226 4.492 7.44e-06 *** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 Residual standard error: 0.4977 on 1998 degrees of freedom Multiple R-squared: 0.01, Adjusted R-squared: 0.009505 F-statistic: 20.18 on 1 and 1998 DF, p-value: 7.444e-06 donde quiero subrayar que la R² es del 1% o muy pequeña. ...

I. Hace unos años, en un congreso de R, hubo un panel de periodistas de datos. En la ronda de preguntas, alguien del público preguntó: “¿cómo manipuláis los datos?” Muy previsiblemente, los tres panelistas respondieron rápida y destempladamente: “No manipulamos los datos”. II. Discriminar —es decir, separar una masa en unidades homogéneas— es una de las tareas tradicionales de la estadística. La técnica más básica y explícita de discriminación (el análisis discriminante lineal), fue introducida por Fisher entre 1936 y 1940 en una serie de artículos, de entre los cuales, el más famoso es The use of multiple measurements in taxonomic problems, publicado nada menos que en los Annals of Eugenics, y en cuya segunda página aparece en toda su gloria y para la posteridad el famoso conjunto de datos iris. ...

En muchos sitios se habla sobre cómo A causa B —o tiene un efecto de cierto tamaño sobre B—. Mucho menos se suele hablar de la forma de ese efecto. El siguiente gráfico (extraído de aquí) muestra ocho de las infinitas formas en que una variable puede tener un efecto sobre otra: En todas ellas, el efecto global tiene el mismo valor medio. Los corolarios los dejo para cada cual.

La llamada regla de Edlin es un principio epistemológico que dice, simplemente, que uno tiene que rebajar —o multiplicar por un factor menor que 1, el llamado factor de Edlin— las estimaciones que uno ve publicadas. Para más información, esto.

Es muy difícil saber cuántas copias vende un libro. Lo es por muchos motivos: Porque no está claro qué es un libro: una misma obra puede tener muchos ISBNs distintos. No hace falta pensar solo en El Quijote: incluso obras modernas pueden tener varios ISBNs según se trate de la versión electrónica, tapa dura, tapa blanda, etc. Porque no está claro qué cosa es una venta o qué significa siquiera “libro publicado” (véase esto). Porque hay motivos económicos para que esos números estén poco claros (véase esto). Seguro, además, que los expertos en el sector pueden apuntar motivos adicionales. Pero el que interesa en este blog es uno que enlaza con lo escrito la semana pasada sobre la esperanza de vida: ...

I. La esperanza de vida en 2020 es el número de años que en promedio vivirá un crío nacido ese año. El problema de esa definición estriba en que para calcularla rectamente habría que esperar hasta, no sé, 2140, para: Contar el número N de nacidos en 2020. Calcular la suma $\sum_i x_i$ de las edades a las que fallecieron (suponiendo que en 2140 ya hayan muerto todos). Dividir la segunda de las cifras por la primera. Y no, no es factible esperar 120 años en publicar una estadística. Ni siquiera para el INE. ...