Regresión Lineal
El ejemplo más simple de una aproximación por mínimos cuadrados es ajustar una línea recta a un conjunto de observaciones definidas por puntos: (x1, y1), (x2, y2),…, (xn, yn). La expresión matemática para la línea recta es
y = a0 + a1x + e
donde a0 y a1 son coeficientes que representan la intersección con el eje y y la pendiente, respectivamente, e es el error, o diferencia, entre el modelo y las observaciones, el cual se representa al reordenar la ecuación como
e = y – a0 – a1x
Así, el error o residuo es la discrepancia entre el valor verdadero de y y el valor aproximado, a0 + a1x, que predijo la ecuación lineal.

Criterio para un “mejor” ajuste
Una estrategia para ajustar una “mejor” línea a través de los datos será minimizar la suma de los errores residuales de todos los datos disponibles, como sigue:

donde n = número total de puntos.
Ajuste de una línea recta por mínimos cuadrados
En pocas palabras, dados n pares de puntos, debemos encontrar la recta:
y = a0 + a1x
En donde:

y:

Ejemplo. Ajuste a una línea recta los valores x y y de la siguiente tabla.


Y con las ecuaciones vistas, tenemos que:

Por lo tanto, el ajuste por mínimos cuadrados es:
y = 0.07142857 + 0.8392857x