R Cuadrado

Se queja el maestro Juan Orduz del fetichismo de la R² a la hora de evaluar modelos de regresión lineal1: He visto a muchos directivos elegir modelos en función de su R²: cuanto mayor, mejor. Muchos de ellos ni siquiera aceptarían un modelo con una R² inferior a 0.8. Estos responsables toman decisiones de millones de dólares […] basándose en modelos con R² artificialmente infladas. Cabe decir que lo mismo ocurre con cualquier otro indicador que se vuelve objetivo, como el AUC o el MSE. Goodhart siempre gana. Pero hoy toca R^2, de nuevo. ...

A veces hay en el mundo una variable aleatoria $X$ que distintos agentes tratan de predecir. Pero en otras ocasiones hay una variable aleatoria $X$, ciertos agentes crean predicciones $Y$ de $X$ y otros están interesados en la predicción de $Y$, tal como describe Matt Levine en Weather Prediction Prediction. The Economist describe los esfuerzos de la India por recuperar la credibilidad de sus estadísticas nacionales tras años de interferencia política. ...

I. Si uno hace n <- 1000 # dos clases del mismo tamaño n x <- c(rep(0, n), rep(1, n)) # mean(y0) = .45, mean(y1) = .55 y0 <- y1 <- rep(0, n) y0[1:(.45 * n)] <- 1 y1[1:(.55 * n)] <- 1 # mean(y) = .5 y <- c(y0, y1) summary(lm(y ~ x)) obtiene Residuals: Min 1Q Median 3Q Max -0.55 -0.45 0.00 0.45 0.55 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 0.45000 0.01574 28.590 < 2e-16 *** x 0.10000 0.02226 4.492 7.44e-06 *** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 Residual standard error: 0.4977 on 1998 degrees of freedom Multiple R-squared: 0.01, Adjusted R-squared: 0.009505 F-statistic: 20.18 on 1 and 1998 DF, p-value: 7.444e-06 donde quiero subrayar que la R² es del 1% o muy pequeña. ...

Hace unos meses escribí una entrada en defensa (parcial) de una regresión lineal con una R² pequeña. He vuelto a pensar sobre ella y retomo la discusión para esclarecer —sobre todo, para profanos— qué mide la R² y cómo interpretarla según el contexto. Comienzo por un experimento físico mental. En un laboratorio se realiza un experimento para medir la relación entre dos magnitudes físicas, un efecto $y$ y una causa $x$. La teoría especifica una relación del tipo $y = a + b x$ y experimentalmente (y en condiciones de laboratorio ideales) se obtienen una serie de datos $(x_i, y_i)$. La relación entre ambos es de la consabida forma ...

Todo esto arranca con el tuit: En conjunto, como digo, los países con Estados grandes tienden a ser poco progresivos pic.twitter.com/oeI6hkUZwd — Juan Ramón Rallo (@juanrallo) February 1, 2021 Esa gráfica, extraída de un documento de la OCDE, creo, fue uno de los argumentos esgrimidos por JR Rallo para defender cierta postura que no viene al caso. Lo relevante para estas páginas es que fue contestado y protestado por muchos —de algunos de los cuales, dada su autoproclamada condición de divulgadores científicos, cabría esperar más— en términos exclusivamente de lo pequeño de la R². ...