Regresión logística
La regresión logística es un modelo de clasificación de dos clases. Este método trata de convertir los valores numéricos que arroja el modelo de regresión lineal en probabilidades para poder resolver el problema de clasificación. En esta página, ejecutaré la regresión logística implementada en sikit-learn y dibujaré su límite de decisión (el límite en el que se basa la clasificación).
import matplotlib.pyplot as plt
import numpy as np
Visualización de las funciones Logit
fig = plt.figure(figsize=(4, 8))
p = np.linspace(0.01, 0.999, num=100)
y = np.log(p / (1 - p))
plt.plot(p, y)
plt.xlabel("p")
plt.ylabel("y")
plt.axhline(y=0, color="k")
plt.ylim(-3, 3)
plt.grid()
plt.show()
Regresión logística
En esta sección, intento entrenar la regresión logística con datos generados artificialmente.
from sklearn.linear_model import LogisticRegression
from sklearn.datasets import make_classification
## Conjunto de datos
X, Y = make_classification(
n_samples=300,
n_features=2,
n_redundant=0,
n_informative=1,
random_state=2,
n_clusters_per_class=1,
)
# Entrenamiento de la regresión logística
clf = LogisticRegression()
clf.fit(X, Y)
# Encontrar el límite de decisión
b = clf.intercept_[0]
w1, w2 = clf.coef_.T
b_1 = -w1 / w2
b_0 = -b / w2
xmin, xmax = np.min(X[:, 0]), np.max(X[:, 0])
ymin, ymax = np.min(X[:, 1]), np.max(X[:, 1])
xd = np.array([xmin, xmax])
yd = b_1 * xd + b_0
# Trazar gráficos
plt.figure(figsize=(10, 10))
plt.plot(xd, yd, "k", lw=1, ls="-")
plt.scatter(*X[Y == 0].T, marker="o")
plt.scatter(*X[Y == 1].T, marker="x")
plt.xlim(xmin, xmax)
plt.ylim(ymin, ymax)
plt.show()
