决策边界逻辑回归不正确

时间:2020-01-19 13:29:54

标签: python numpy machine-learning logistic-regression

我知道那里有很多问题,但这根本行不通。我想绘制逻辑回归模型的决策边界。但是我的决策边界图远未达到预期。我尚未绘制新数据来验证分类器,但是,我的损失看起来像预期的那样,并且正在收敛。请在下面找到我的代码。

Edit1 :我现在尝试了几种解决方案和方法来绘制决策边界,而且看起来总是一样的,因此我的参数肯定有问题。有人知道这可能是什么吗?

Edit2 :出于无奈,我将决策边界的参数随机更改为y = (-(w[2]+w[0].item()*x)/w[1]).T,现在它可以正常工作了。有人知道为什么我有两个人把它们缠在一起吗?

这就是我要得到的。我在做什么错了?

import numpy as np
import matplotlib.pyplot as plt

def sig(x):
    return 1/(1+np.exp(-x))

def N(mean, cov, n):
    return np.matrix(np.random.multivariate_normal(mean, cov, n))

# Data
n = 100
mean_1, cov_1 = [3,3], [[0.7,-0.3],[0.3,0.5]]
mean_2, cov_2 = [1,2], [[0.5,0.3],[0.3,0.5]]
X_1, X_2 = N(mean_1, cov_1, n), N(mean_2, cov_2, n) # (100, 2)
X = np.vstack((X_1, X_2)) # (200, 2)
Ts = np.vstack((np.zeros((n, 1)), np.ones((n, 1)))) # (200, 1)
Xs = np.hstack((X, np.ones((n*2,1)))) # (200, 3)

# Parameters
w = np.matrix(np.random.rand(np.size(Xs,1))).T # (3, 1)
alpha = 1e-2

# Train
loss = []
epochs = 10000
for i in range(epochs):
    Ys = sig(Xs@w)
    loss += [1/(n*2) * (-Ts.T@np.log(Ys) -(1-Ts.T)@np.log(1-Ys)).item()]
    grad = Xs.T@(Ys-Ts)
    w -= alpha/(n*2) * grad

# plot loss
plot_loss = False
if plot_loss:
    plt.plot(range(len(loss)), loss)
    plt.title("Convergence of loss")
    plt.xlabel('Epochs')
    plt.ylabel('Loss')

# plot data
plot_data = True
if plot_data:
    plt.scatter([X_1[:,0]],[X_1[:,1]], color="b")
    plt.scatter([X_2[:,0]],[X_2[:,1]], color="r")
    plt.title("Data")
    plt.xlabel('Feature 1')
    plt.ylabel('Feature 2')

# plot decision boundary
plot_db = True
if plot_db:
    x = np.linspace(-1, 6, 1000)
    y = (-(w[0]+w[1].item()*x)/w[2]).T
    plt.plot(x,y,"r")

plt.show()

1 个答案:

答案 0 :(得分:0)

问题是 function writeFName() { first_name = document.querySelector('#fName_Input').value; localStorage.setItem('fName', first_name); var cfmF = confirm("Did you mean to enter: \n" + first_name + '?'); if (cfmF) { console.log(first_name); window.alert('Success!'); first_name = localStorage.getItem('fName'); } else { window.alert('Please Re-Enter First Name'); } } 向量与特征向量串联在一起。如上面的代码所示,使用特征向量对其进行切换并绘制边界会产生正确的边界。