2.1 Residuos

En el gráfico anterior vemos que la línea resume la relación entre X e Y, pero claramente es una simplificación que no abarca toda la variabilidad de los datos. Por ejemplo, para el sujeto cuya experiencia es haber jugado 1 vez y luego gana 3 puntos, esta línea predice exactamente su puntaje basada en su experiencia. Sin embargo, el sujeto que ha jugado 3 veces y saca 6 puntos se encuentra más lejos de la línea y por lo tanto esta línea o “modelo predictivo” no representa tan bien su puntaje. A esto se refieren los residuos, que es la diferencia entre el valor predicho (o \(\widehat{Y}\)) y el observado \(Y\). Por lo tanto, la mejor recta será aquella que minimice al máximo los residuos.

El sentido de la recta que resume de mejor manera la relación entre dos variables es que minimice la suma de todos los residuos. Para realizar la suma de los residuos estos se elevan al cuadrado, lo que se denomina suma de residuos al cuadrado o \(SS_{residual}\) ya que como hay residuos positivos y negativos unos se cancelan a otros y la suma es 0. De la infinita cantidad de rectas que se pueden trazar, siempre hay una que tiene un valor menor de \(SS_{residual}\). Este procedimiento es el que da nombre al proceso de estimación: residuos cuadrados ordinarios, o OLS (Ordinary Least Squares).

2.2 Modelo y cálculo de parámetros

El modelo de regresión entonces se relaciona con una ecuación de la recta, o recta de regresión, que se puede definir en términos simples de la siguiente manera:

\[\widehat{Y}=b_{0} +b_{1}X \]

reg1 <-lm(puntos ~juegos, data = datos)
reg1

## 
## Call:
## lm(formula = puntos ~ juegos, data = datos)
## 
## Coefficients:
## (Intercept)       juegos  
##         2.5          0.5

En el formato de la redacción en RMarkdown se pueden presentar los valores de las estimaciones con distintas funciones del paquete texreg. Una de ellas es screenreg, que ofrece una salida simple en la pantalla:

library(texreg)

screenreg(reg1, custom.model.names = "Variable dependiente: Puntos de Tacataca", # Cambiar nombre del título
       custom.coef.names = c("Intercepto", "Juegos"),   #Cambiar nombre de las variables
       custom.note = "Elaboración propia en base a Golf.txt", #Agregar una nota
       single.row = T #para que la DS este en una linea
       )

## 
## ====================================================
##             Variable dependiente: Puntos de Tacataca
## ----------------------------------------------------
## Intercepto   2.50 (0.46) ***                        
## Juegos       0.50 (0.13) **                         
## ----------------------------------------------------
## R^2          0.40                                   
## Adj. R^2     0.38                                   
## Num. obs.   23                                      
## RMSE         1.09                                   
## ====================================================
## Elaboración propia en base a Golf.txt

Con la función htmlreg es posible generar también una tabla que puede ser publicable en formato html, tal como en el siguiente ejemplo:

htmlreg(reg1, custom.model.names = "Variable dependiente: Puntos de Tacataca", # Cambiar nombre del título
       custom.coef.names = c("Intercepto", "Juegos"),   #Cambiar nombre de las variables
       custom.note = "Elaboración propia en base a Golf.txt", #Agregar una nota
       single.row = T #para que la DS este en una linea
       )

En el contexto de los modelos de regresión, las estimaciones pueden presentarse en un gráfico de coeficientes o coefplot.

pacman::p_load(coefplot)
coefplot(reg1)

#Modificaciones con ggplot2
coefplot(reg1)+
  scale_y_discrete(name=" ", limits=c("(Intercept)","juegos"),
                   labels=c("Intercepto", "Juegos")) +
  scale_x_continuous(name = " ") +
  ggtitle("Gráficos de Coeficientes Beta")+
  theme_bw()

3.1 Suma de cuadrados y \(R^{2}\)

Usando la media como modelo podemos calcular las diferencias entre los valores observados y los valores predichos por la media.

• La suma de las diferencias al cuadrado la llamamos Suma Total de Cuadrados:

\[SS_{tot} = \sum(y-\bar{y})^2 \] Y calculamos

ss_tot<- sum((datos$puntos-mean(datos$puntos))^2); ss_tot

## [1] 42

Usando la predicción del modelo OLS podemos llegar a tener una mejor aproximación:

• la suma de las diferencias entre los datos observados y los datos predichos al cuadrado le llamamos Suma de residuos al cuadrado:

\[SS_{error} = \sum(y-\hat{y})^2\] Este valor representa el grado de imprecisión cuando la mejor recta se ajusta a los datos.

ss_err<- sum((datos$puntos - datos$estimado)^2);ss_err

## [1] 25

Cuánto mejor ajusta un modelo OLS sobre el cálculo de la media. Esto se puede estimar la diferencia al cuadrado entre el valor estimado y la media, esto se llama Suma explicada de cuadrados

\[SS_{reg} = \sum(\hat{y}-\bar{y})^2\]

ss_reg<-sum((datos$estimado-mean(datos$puntos))^2) ; ss_reg

## [1] 17

A partir de la suma de cuadrados es posible calcular el estadístico \(R^{2}\)

\[R^2=\frac{SS_{reg}}{SS_{tot}}= 1- \frac{SS_{error}}{SS_{tot}}\]

#Opción 1
ss_reg/ss_tot

## [1] 0.4047619

#Opción 2
1-ss_err/ss_tot

## [1] 0.4047619

#por comando
summary(lm(puntos~juegos, data=datos))$r.squared

## [1] 0.4047619

3.2 Visualización

En la siguiente sección se presentan distintas formas de visualizar los residuos a partir del paquete ggplot2.

#Visualizacion
library(ggplot2)

ggplot(datos, aes(x=juegos, y=puntos))+
  geom_smooth(method="lm", se=FALSE, color="lightgrey") +#Pendiente de regresion
  geom_segment(aes(xend=juegos, yend=estimado), alpha = .2) + #Distancia entre estimados y datos en lineas
  geom_point() + #Capa 1
  geom_point(aes(y=estimado), shape =1) +
  theme_bw()

#Opción donde se juega con el tamaño de los puntos y los colores para resalta el tamaño de los residuos.

ggplot(datos, aes(x=juegos, y=puntos))+
  geom_smooth(method="lm", se=FALSE, color="lightgrey") +#Pendiente de regresion
  geom_segment(aes(xend=juegos, yend=estimado), alpha = .2) + #Distancia entre estimados y datos en lineas
  geom_point(aes(color = abs(residuo), size = abs(residuo))) +
  scale_color_continuous(low = "black", high = "red") +
  guides(color = FALSE, size = FALSE) +
   geom_point(aes(y=estimado), shape =1) +
  theme_bw()