二维线性分类问题
单层感知器作为线性分类器被广泛应用
问题分析:
首先给了五个输入样本,输入样本和位置信息如下所示,现在要学习一个模型,在二维空间中把两个样本分开,输入数据是个矩阵,矩阵中有五个样本,样本的维度是三维,三个维度分别表示偏置,x坐标,y坐标。对应的标签Y是 区分矩阵中的样本,例如:[1,2,3]对应1,[1,4,5]对应1,[1,1,1]对应-1,以此类推。
怎么样使用单层感知器求解这个问题?
#输入数据,三个维度分别表示偏置,x坐标,y坐标
X = np.array([[1,2,3],[1,4,5],[1,1,1],[1,5,3],[1,0,1]])
#标签
Y = np.array([1,1,-1,1,-1]) #代表X的每条的类型
问题分析:
1.单层感知器(Perceptron)简介:
x,y表示实际的二维坐标
单层感知器求解
令误差函数为L,预测值为 y,阈值函数f 为符号函数
基于梯度下降法的参数更新为:
Python求解单层感知器算法:
import numpy as np
import matplotlib.pyplot as plt
n = 0 #迭代次数
lr = 0.10 #学习速率
#输入数据,三个维度分别表示偏置,x坐标,y坐标
X = np.array([[1,2,3],[1,4,5],[1,1,1],[1,5,3],[1,0,1]])
#标签
Y = np.array([1,1,-1,1,-1]) #代表X的每条的类型
#要学习的模型,f(WX+B),对于正样本mf(WX+B)>0,对于负样本,f(WX+b)<0#权重W初始化,取值范围-1 - 1
W = (np.random.random(X.shape[1]) -0.5) * 2#可视化函数 使输入数据参数可视化
def get_show():#正样本all_positive_x = [2,4,5]all_positive_y = [3,5,3]#负样本all_negative_x = [1,0]all_negative_y = [1,1]#计算分界线斜率与截距,直线方程 wx+b = W[0]*1 + W[1]*X + W[2]*Y = 0 y = kx + b,二维坐标的一条直线k = -W[1] / W[2]b = -(W[0]) / W[2]#生成x刻度xdata = np.linspace(0,5) #生成连续的刻度值plt.figure()plt.plot(xdata, xdata*k+b,'r')plt.plot(all_positive_x,all_positive_y,'bo')plt.plot(all_negative_x,all_negative_y,'yo')plt.xlabel("x")plt.ylabel("y")plt.show()#更新权值函数
def get_update():#定义所有全局变量global X,Y,W,lr,nn += 1#计算符号函数输出new_output = np.sign(np.dot(X,W.T))#更新权重new_W = W + lr*((Y - new_output.T).dot(X))W = new_Wdef main():for _ in range(100):get_update()new_output = np.sign(np.dot(X,W.T))if(new_output == Y.T).all():print("迭代次数:", n)breakget_show()if __name__ == '__main__':main()
执行结果如下(有多个结果):