代码

# 调用库
import torch# 数据准备
x_data = torch.Tensor([[1.0], [2.0], [3.0]])  # 训练集输入值
y_data = torch.Tensor([[2.0], [4.0], [6.0]])  # 训练集输出值# 定义线性回归模型
class LinearModel(torch.nn.Module):def __init__(self):super(LinearModel, self).__init__()  # 调用父类构造函数self.linear = torch.nn.Linear(1, 1)  # 实例化torch库nn模块的Linear类def forward(self, x):"""前馈运算:param x: 输入值:return: 线性回归预测结果"""y_pred = self.linear(x)return y_predmodel = LinearModel()  # 实例化LinearModel类criterion = torch.nn.MSELoss(size_average=False)  # 损失函数
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)  # 优化器——梯度下降SGD
# optimizer = torch.optim.Adam(model.parameters(), lr=0.01)  # 优化器——Adam
# optimizer = torch.optim.Adamax(model.parameters(), lr=0.01)  # 优化器——Adamax# 训练过程
for epoch in range(1000):  # epoch：训练轮次y_pred = model(x_data)loss = criterion(y_pred, y_data)print(epoch, loss.item())optimizer.zero_grad()  # 梯度归零loss.backward()  # 反向传播optimizer.step()  # 权重自动更新print("w = ", model.linear.weight.item())
print("b = ", model.linear.bias.item())# 预测过程
x_test = torch.Tensor([[4.0]])
y_test = model(x_test)
print("y_pred = ", y_test.data)

结果

1 不同epoch结果

1.1 epoch = 100时

1.2 epoch = 1000时

 

 2 不同优化器

2.1 Adam优化器

 

 2.2 Adamax优化器 

 

3 不同学习率（梯度下降）

3.1 lr = 0.05

 3.2 lr = 0.1（loss函数结果发散）

遇见的问题

1 代码问题（已解决）

1.1 问题

 1.2 解决办法

 2 关于神经网络

代码中model.parameters()函数保存的是Weights和Bais参数的值。但是对于其他网络（非线性）来说这个函数可以用吗，里面也是保存的w和b吗？