S08L01 – Regresión polinómica

html
Dominando la Regresión Polinómica: Una Guía Completa

Índice

Introducción a la Regresión
Comprendiendo la Regresión Lineal
Limitaciones de la Regresión Lineal
¿Qué es la Regresión Polinómica?
Regresión Polinómica vs. Regresión Lineal
Implementando la Regresión Polinómica en Python
Evaluando el Modelo
Evitar el Sobreajuste
Conclusión




Introducción a la Regresión
Análisis de regresión es una técnica fundamental en estadística y aprendizaje automático, utilizada para modelar y analizar las relaciones entre una variable dependiente y una o más variables independientes. El objetivo principal es predecir el valor de la variable dependiente basándose en los valores de las variables independientes.
Existen varios tipos de técnicas de regresión, cada una adecuada para diferentes tipos de datos y relaciones. Dos formas principales son la regresión lineal y la regresión polinómica. Mientras que la regresión lineal modela una relación de línea recta, la regresión polinómica puede modelar relaciones más complejas y no lineales.

Comprendiendo la Regresión Lineal
La regresión lineal es la forma más simple de análisis de regresión. Asume una relación lineal entre la variable dependiente \( Y \) y una única variable independiente \( X \). La representación matemática es:




		
		
			
			
Java
			
			$$
Y = B_0 + B_1X_1
$$
			
				
					
				
					1
2
3
				
						$$
Y = B_0 + B_1X_1
$$
					
				
			
		



\( B_0 \): Término de intersección (constante)
\( B_1 \): Coeficiente para la variable independiente \( X_1 \)

Visualización:

En un diagrama de dispersión de \( X \) (variable independiente) versus \( Y \) (variable dependiente), la regresión lineal ajusta una línea recta que representa mejor la relación entre ambas variables.

Limitaciones de la Regresión Lineal
Si bien la regresión lineal es sencilla y computacionalmente eficiente, tiene sus limitaciones:

Suposición de Linealidad: Asume que la relación entre las variables es lineal. Esto a menudo no es el caso en los datos del mundo real.
Limitación de una Sola Variable: La regresión lineal estándar generalmente maneja una variable independiente, lo que la hace menos efectiva para conjuntos de datos con múltiples características.
Manejo de Datos Multidimensionales: Visualizar e interpretar modelos se vuelve desafiante con el aumento de la dimensionalidad.

Estas limitaciones requieren técnicas de modelado más flexibles, como la regresión polinómica, para capturar patrones de datos complejos.

¿Qué es la Regresión Polinómica?
Regresión polinómica es una extensión de la regresión lineal que modela la relación entre la variable dependiente \( Y \) y las variables independientes \( X \) como un polinomio de grado \( n \). La forma general para una sola variable es:




		
		
			
			
Java
			
			$$
Y = B_0 + B_1X_1 + B_2X_1^2 + \cdots + B_nX_1^n
$$
			
				
					
				
					1
2
3
				
						$$
Y = B_0 + B_1X_1 + B_2X_1^2 + \cdots + B_nX_1^n
$$
					
				
			
		



\( n \): Grado del polinomio (un hiperparámetro)
Grados más altos permiten que el modelo ajuste curvas más complejas

Ecuación de Ejemplo:




		
		
			
			
Java
			
			$$
Y = B_0 + B_1X + B_2X^2 + B_3X^3
$$
			
				
					
				
					1
2
3
				
						$$
Y = B_0 + B_1X + B_2X^2 + B_3X^3
$$
					
				
			
		


Esta ecuación crea una curva parabólica (si \( n = 2 \)) en lugar de una línea recta, lo que permite que el modelo capture relaciones no lineales en los datos.

Regresión Polinómica vs. Regresión Lineal


Aspecto
Regresión Lineal
Regresión Polinómica


Relación Modelada
Línea recta
Línea curva (parabólica o de grado superior)


Complejidad
Sencillo
Más complejo debido a términos de grado superior


Flexibilidad
Limitado a relaciones lineales
Puede modelar relaciones no lineales


Visualización
Fácil de visualizar en 2D
La visualización se vuelve compleja en dimensiones superiores


Riesgo de Sobreajuste
Menor
Mayor, especialmente con polinomios de grado alto


¿Por qué Elegir la Regresión Polinómica?
Cuando los datos muestran una tendencia no lineal que la regresión lineal no puede capturar eficazmente, la regresión polinómica proporciona un medio para modelar la curvatura, lo que lleva a un mejor rendimiento predictivo.

Implementando la Regresión Polinómica en Python
Vamos a realizar un ejemplo práctico utilizando el Jupyter Notebook de Python para implementar la regresión polinómica en un conjunto de datos que contiene el ingreso per cápita de Canadá durante varios años.

Paso 1: Importar Bibliotecas




		
		
			
			
Java
			
			import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.preprocessing import PolynomialFeatures
from sklearn.metrics import r2_score

sns.set()
			
				
					
				
					1
2
3
4
5
6
7
8
9
10
				
						import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.preprocessing import PolynomialFeatures
from sklearn.metrics import r2_score
 
sns.set()
					
				
			
		



Paso 2: Cargar el Conjunto de Datos




		
		
			
			
Java
			
			# Fuente del Conjunto de Datos: <a href="https://www.kaggle.com/gurdit559/canada-per-capita-income-single-variable-data-set">https://www.kaggle.com/gurdit559/canada-per-capita-income-single-variable-data-set</a>
data = pd.read_csv('canada_per_capita_income.csv')
X = data.iloc[:, :-1]  # Variable independiente (Año)
Y = data.iloc[:, -1]   # Variable dependiente (Ingreso Per Cápita)
			
				
					
				
					1
2
3
4
				
						# Fuente del Conjunto de Datos: <a href="https://www.kaggle.com/gurdit559/canada-per-capita-income-single-variable-data-set">https://www.kaggle.com/gurdit559/canada-per-capita-income-single-variable-data-set</a>
data = pd.read_csv('canada_per_capita_income.csv')
X = data.iloc[:, :-1]  # Variable independiente (Año)
Y = data.iloc[:, -1]   # Variable dependiente (Ingreso Per Cápita)
					
				
			
		



Paso 3: Visualizar los Datos




		
		
			
			
Java
			
			sns.scatterplot(data=data, x='year', y='per capita income (US$)')
plt.xlabel('Año')
plt.ylabel('Ingreso Per Cápita (US$)')
plt.title('Ingreso Per Cápita de Canadá a lo Largo de los Años')
plt.show()
			
				
					
				
					1
2
3
4
5
				
						sns.scatterplot(data=data, x='year', y='per capita income (US$)')
plt.xlabel('Año')
plt.ylabel('Ingreso Per Cápita (US$)')
plt.title('Ingreso Per Cápita de Canadá a lo Largo de los Años')
plt.show()
					
				
			
		


Nota: Reemplaza la URL en el sns.scatterplot con el gráfico real para una mejor visualización.

Paso 4: Dividir el Conjunto de Datos




		
		
			
			
Java
			
			X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.20, random_state=1)
			
				
					
				
					1
				
						X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.20, random_state=1)
					
				
			
		



Paso 5: Construir el Modelo de Regresión Lineal




		
		
			
			
Java
			
			linear_model = LinearRegression()
linear_model.fit(X_train, y_train)
			
				
					
				
					1
2
				
						linear_model = LinearRegression()
linear_model.fit(X_train, y_train)
					
				
			
		



Paso 6: Realizar Predicciones con el Modelo Lineal




		
		
			
			
Java
			
			y_pred_linear = linear_model.predict(X_test)
			
				
					
				
					1
				
						y_pred_linear = linear_model.predict(X_test)
					
				
			
		



Paso 7: Evaluar el Modelo Lineal




		
		
			
			
Java
			
			r2_linear = r2_score(y_test, y_pred_linear)
print(f'R2 Score for Linear Regression: {r2_linear}')
			
				
					
				
					1
2
				
						r2_linear = r2_score(y_test, y_pred_linear)
print(f'R2 Score for Linear Regression: {r2_linear}')
					
				
			
		


Salida:




		
		
			
			
Java
			
			Puntuación R2 para Regresión Lineal: 0.80
			
				
					
				
					1
				
						Puntuación R2 para Regresión Lineal: 0.80
					
				
			
		



Paso 8: Implementar la Regresión Polinómica




		
		
			
			
Java
			
			# Transformar los datos para incluir términos polinómicos
poly = PolynomialFeatures(degree=2)
X_train_poly = poly.fit_transform(X_train)
X_test_poly = poly.transform(X_test)

# Construir el modelo de Regresión Polinómica
poly_model = LinearRegression()
poly_model.fit(X_train_poly, y_train)

# Realizar predicciones
y_pred_poly = poly_model.predict(X_test_poly)
			
				
					
				
					1
2
3
4
5
6
7
8
9
10
11
				
						# Transformar los datos para incluir términos polinómicos
poly = PolynomialFeatures(degree=2)
X_train_poly = poly.fit_transform(X_train)
X_test_poly = poly.transform(X_test)
 
# Construir el modelo de Regresión Polinómica
poly_model = LinearRegression()
poly_model.fit(X_train_poly, y_train)
 
# Realizar predicciones
y_pred_poly = poly_model.predict(X_test_poly)
					
				
			
		



Paso 9: Evaluar el Modelo Polinómico




		
		
			
			
Java
			
			r2_poly = r2_score(y_test, y_pred_poly)
print(f'R2 Score for Polynomial Regression: {r2_poly}')
			
				
					
				
					1
2
				
						r2_poly = r2_score(y_test, y_pred_poly)
print(f'R2 Score for Polynomial Regression: {r2_poly}')
					
				
			
		


Salida:




		
		
			
			
Java
			
			Puntuación R2 para Regresión Polinómica: 0.86
			
				
					
				
					1
				
						Puntuación R2 para Regresión Polinómica: 0.86
					
				
			
		



Paso 10: Comparar Valores Reales vs. Predichos




		
		
			
			
Java
			
			comparison = pd.DataFrame({
    'Actual': y_test,
    'Predicted': y_pred_poly
})
print(comparison)
			
				
					
				
					1
2
3
4
5
				
						comparison = pd.DataFrame({
    'Actual': y_test,
    'Predicted': y_pred_poly
})
print(comparison)
					
				
			
		


Salida de Muestra:


#
Real
Predicho


24
15755.82
17658.03


22
16412.08
15942.22


39
32755.18
34259.97


...
...
...



Paso 11: Visualizar el Ajuste Polinómico




		
		
			
			
Java
			
			plt.scatter(X, Y, color='blue', label='Datos Reales')
plt.plot(X, poly_model.predict(poly.fit_transform(X)), color='red', label='Ajuste Polinómico')
plt.xlabel('Año')
plt.ylabel('Ingreso Per Cápita (US$)')
plt.title('Ajuste de Regresión Polinómica')
plt.legend()
plt.show()
			
				
					
				
					1
2
3
4
5
6
7
				
						plt.scatter(X, Y, color='blue', label='Datos Reales')
plt.plot(X, poly_model.predict(poly.fit_transform(X)), color='red', label='Ajuste Polinómico')
plt.xlabel('Año')
plt.ylabel('Ingreso Per Cápita (US$)')
plt.title('Ajuste de Regresión Polinómica')
plt.legend()
plt.show()
					
				
			
		


Nota: La curva roja representa el ajuste de regresión polinómica, mostrando una mejor alineación con los datos en comparación con el ajuste lineal.

Evaluando el Modelo
El puntaje R² es una métrica clave para evaluar modelos de regresión. Representa la proporción de la varianza en la variable dependiente que es predecible a partir de la(s) variable(s) independiente(s).

R² de Regresión Lineal: 0.80
R² de Regresión Polinómica: 0.86

El mayor puntaje R² del modelo polinómico indica un mejor ajuste a los datos, capturando la tendencia subyacente de manera más efectiva que el modelo lineal.

Evitar el Sobreajuste
Si bien aumentar el grado del polinomio mejora la capacidad del modelo para ajustar los datos de entrenamiento, también incrementa el riesgo de sobreajuste. El sobreajuste ocurre cuando el modelo captura el ruido en los datos de entrenamiento, lo que lleva a una mala generalización en datos no vistos.
Estrategias para Prevenir el Sobreajuste:

Validación Cruzada: Utiliza técnicas como la validación cruzada k-fold para asegurar que el modelo funcione bien en diferentes subconjuntos de los datos.
Regularización: Implementa métodos de regularización (por ejemplo, regresión Ridge o Lasso) para penalizar una complejidad excesiva.
Seleccionar el Grado Apropiado: Escoge el grado del polinomio cuidadosamente. Grados más altos aumentan la flexibilidad pero pueden llevar al sobreajuste. Comienza con grados más bajos y aumenta de manera incremental mientras monitoreas las métricas de rendimiento.


Conclusión
La regresión polinómica ofrece un método robusto para modelar relaciones no lineales, extendiendo las capacidades de la regresión lineal. Al incorporar términos polinómicos, captura la curvatura en los datos, lo que lleva a un mejor rendimiento predictivo. Sin embargo, es esencial equilibrar la complejidad del modelo para evitar el sobreajuste. A través de una implementación y evaluación cuidadosas, la regresión polinómica puede ser una herramienta valiosa en tu arsenal de ciencia de datos.
Principales Conclusiones:

La regresión polinómica modela relaciones no lineales mediante la introducción de términos polinómicos.
Ofrece un mejor ajuste en comparación con la regresión lineal para datos no lineales.
El grado del polinomio es un hiperparámetro crucial que afecta el rendimiento del modelo.
Ten cuidado con el sobreajuste al elegir un grado apropiado y emplear técnicas de validación.

¡Emprende tu viaje de modelado de datos integrando la regresión polinómica en tus proyectos y desbloquea conocimientos más profundos de tus datos!

Lecturas Adicionales

Comprendiendo el Sobreajuste en el Aprendizaje Automático
Guía para Principiantes de Regresión Lineal
Técnicas Avanzadas de Regresión Polinómica


Referencias

Conjunto de Datos de Kaggle: Ingreso Per Cápita de Canadá
Documentación de Scikit-Learn


Etiquetas

Ciencia de Datos
Aprendizaje Automático
Análisis de Regresión
Regresión Polinómica
Regresión Lineal
Python
Jupyter Notebook


Preguntas Frecuentes

P1: ¿Cuándo debería usar la regresión polinómica en lugar de la regresión lineal?
R1: Utiliza la regresión polinómica cuando la relación entre la variable independiente y la variable dependiente es no lineal. Ayuda a capturar la curvatura en los datos, lo que lleva a un mejor rendimiento predictivo.

P2: ¿Cómo elijo el grado adecuado para la regresión polinómica?
R2: Comienza con un grado más bajo e incrementa gradualmente mientras monitoreas el rendimiento del modelo en datos de validación. Herramientas como la validación cruzada pueden ayudar a seleccionar el grado óptimo que equilibra el ajuste y la generalización.

P3: ¿Puede la regresión polinómica manejar múltiples características?
R3: Sí, la regresión polinómica puede extenderse a múltiples características creando combinaciones polinómicas de las características, lo que permite que el modelo capture interacciones entre ellas.

¡Comienza con la Regresión Polinómica Hoy Mismo!
Mejora tus habilidades de modelado de datos experimentando con la regresión polinómica. Utiliza el ejemplo proporcionado de Jupyter Notebook para implementar tus propios modelos y observa el impacto de diferentes grados polinómicos en tus datos. ¡Feliz modelado!

Sobre el Autor
Como escritor técnico experto con amplia experiencia en ciencia de datos y aprendizaje automático, me esfuerzo por ofrecer guías claras y completas que empoderan tanto a profesionales como a entusiastas a aprovechar al máximo el potencial de los conocimientos basados en datos.

Contacto
Para más insights y tutoriales sobre ciencia de datos y aprendizaje automático, no dudes en contactarme en [email protected].

Descargo de Responsabilidad
Este artículo está destinado a fines educativos. Aunque se realizan todos los esfuerzos para asegurar la precisión, siempre valida los modelos y resultados dentro de tu caso de uso específico.

Conclusión
La regresión polinómica es una herramienta vital en el conjunto de herramientas del científico de datos, permitiendo un modelado matizado de relaciones complejas. Al comprender su mecánica, ventajas y posibles inconvenientes, puedes aprovecharla para extraer conocimientos más profundos y construir modelos predictivos más precisos.

Palabras Clave
Regresión Polinómica, Regresión Lineal, Aprendizaje Automático, Ciencia de Datos, Python, Jupyter Notebook, Puntuación R², Sobreajuste, Hiperparámetros, Análisis de Regresión, Modelado Predictivo, Scikit-Learn, Visualización de Datos

Llamado a la Acción
¿Listo para elevar tus modelos de regresión? Sumérgete en la regresión polinómica con nuestra guía completa y comienza a modelar relaciones de datos complejas hoy mismo.
Aspecto	Regresión Lineal	Regresión Polinómica
Relación Modelada	Línea recta	Línea curva (parabólica o de grado superior)
Complejidad	Sencillo	Más complejo debido a términos de grado superior
Flexibilidad	Limitado a relaciones lineales	Puede modelar relaciones no lineales
Visualización	Fácil de visualizar en 2D	La visualización se vuelve compleja en dimensiones superiores
Riesgo de Sobreajuste	Menor	Mayor, especialmente con polinomios de grado alto
#	Real	Predicho
24	15755.82	17658.03
22	16412.08	15942.22
39	32755.18	34259.97
...	...	...