TensorBoard 是一个可视化工具，用于展示机器学习模型的训练过程和结果。以下是 TensorBoard 的基本使用方法及一些案例。
基本使用
-
安装
-
安装 TensorBoard：
pip install tensorboard -
如果使用 PyTorch，还需要安装
torch和torchvision：pip install torch torchvision
-
-
启动 TensorBoard
-
在命令行中运行以下命令启动 TensorBoard：
tensorboard --logdir=runs其中
--logdir指定日志文件所在的目录。
-
-
在代码中使用 TensorBoard
-
PyTorch 示例：以下是一个简单的线性回归模型，使用 TensorBoard 记录训练过程中的损失值。
import torch import torch.nn as nn import torch.optim as optim from torch.utils.tensorboard import SummaryWriter import numpy as np import matplotlib.pyplot as plt# 生成数据 x = np.random.rand(100, 1) * 20 y = 3 * x + np.random.randn(100, 1) * 5# 转换为 Tensor x_tensor = torch.FloatTensor(x) y_tensor = torch.FloatTensor(y)# 定义线性模型 model = nn.Linear(1, 1)# 损失函数和优化器 criterion = nn.MSELoss() optimizer = optim.SGD(model.parameters(), lr=0.01)# 初始化 TensorBoard writer = SummaryWriter('runs/linear_regression')# 训练模型 for epoch in range(100):model.train()optimizer.zero_grad()outputs = model(x_tensor)loss = criterion(outputs, y_tensor)loss.backward()optimizer.step()# 记录损失writer.add_scalar('Loss/train', loss.item(), epoch)# 关闭 TensorBoard writer.close()# 绘制真实与预测数据 plt.figure(figsize=(10, 6)) plt.scatter(x, y, label='Data', color='blue') plt.plot(x, model(x_tensor).detach().numpy(), label='Prediction', color='red') plt.xlabel('x') plt.ylabel('y') plt.legend() plt.title('Linear Regression') plt.grid() plt.show()在浏览器中访问
http://localhost:6006，可以看到实时的训练损失变化曲线。
-
-
TensorBoard 的可视化功能
-
标量可视化：使用
add_scalar方法记录标量数据，如损失值或准确率。 -
图像可视化：使用
add_image方法记录图像数据。 -
直方图可视化：使用
add_histogram方法记录直方图数据。 -
图形可视化：使用
add_graph方法记录模型的计算图。 -
嵌入可视化：使用
add_embedding方法记录嵌入数据。
-
案例
-
记录训练过程中的标量数据
-
在 PyTorch 中，可以使用
SummaryWriter的add_scalar方法记录训练过程中的损失值和准确率。writer = SummaryWriter() for n_iter in range(100):writer.add_scalar('Loss/train', np.random.random(), n_iter)writer.add_scalar('Loss/test', np.random.random(), n_iter)writer.add_scalar('Accuracy/train', np.random.random(), n_iter)writer.add_scalar('Accuracy/test', np.random.random(), n_iter) writer.close()在 TensorBoard 中，这些标量数据会被分组显示，便于比较训练和测试阶段的性能。
-
-
记录模型的计算图
-
在 PyTorch 中，可以使用
add_graph方法记录模型的计算图。from torch.utils.tensorboard import SummaryWriter import torchvision from torchvision import datasets, transformswriter = SummaryWriter() transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,))]) trainset = datasets.MNIST('mnist_train', train=True, download=True, transform=transform) trainloader = torch.utils.data.DataLoader(trainset, batch_size=64, shuffle=True) model = torchvision.models.resnet50(False) model.conv1 = torch.nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3, bias=False) images, labels = next(iter(trainloader)) writer.add_graph(model, images) writer.close()在 TensorBoard 中，可以查看模型的计算图，了解模型的结构。
-
-
记录嵌入数据
-
在 PyTorch 中，可以使用
add_embedding方法记录嵌入数据。from torch.utils.tensorboard import SummaryWriter import torchwriter = SummaryWriter() meta = [] while len(meta) < 100:meta = meta + keyword.kwlist meta = meta[:100] for i, v in enumerate(meta):meta[i] = v + str(i) label_img = torch.rand(100, 3, 10, 32) for i in range(100):label_img[i] *= i / 100.0 writer.add_embedding(torch.randn(100, 5), metadata=meta, label_img=label_img) writer.close()在 TensorBoard 中，嵌入数据（embedding）通常用于可视化高维数据的低维投影，例如通过 t-SNE 或 PCA 方法。以下是一个完整的案例，展示如何在 PyTorch 中记录嵌入数据并使用 TensorBoard 进行可视化。
完整代码示例
from torch.utils.tensorboard import SummaryWriter import torch import torch.nn as nn import torch.optim as optim import torchvision from torchvision import datasets, transforms import numpy as np# 设置 TensorBoard writer = SummaryWriter('runs/embedding')# 数据预处理 transform = transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.5,), (0.5,)) ])# 加载数据集 trainset = datasets.MNIST('mnist_train', train=True, download=True, transform=transform) trainloader = torch.utils.data.DataLoader(trainset, batch_size=64, shuffle=True)# 定义一个简单的模型 class SimpleNet(nn.Module):def __init__(self):super(SimpleNet, self).__init__()self.fc1 = nn.Linear(28 * 28, 128) # 输入是 28x28 的图像self.fc2 = nn.Linear(128, 10) # 输出是 10 类def forward(self, x):x = x.view(-1, 28 * 28) # 将图像展平x = torch.relu(self.fc1(x))x = self.fc2(x)return xmodel = SimpleNet()# 损失函数和优化器 criterion = nn.CrossEntropyLoss() optimizer = optim.SGD(model.parameters(), lr=0.01)# 训练模型 for epoch in range(10):model.train()for batch_idx, (data, target) in enumerate(trainloader):optimizer.zero_grad()output = model(data)loss = criterion(output, target)loss.backward()optimizer.step()# 每隔一定步数记录一次嵌入数据if batch_idx % 100 == 0:# 获取嵌入层的输出embedding = model.fc1(data.view(-1, 28 * 28)).detach().numpy()# 获取标签labels = target.numpy()# 记录嵌入数据writer.add_embedding(mat=embedding,metadata=labels,label_img=data.unsqueeze(1),global_step=epoch * len(trainloader) + batch_idx)print(f"Epoch {epoch}, Batch {batch_idx}, Loss: {loss.item()}")writer.close() -
模型定义：
-
定义了一个简单的全连接网络，包含两个全连接层。
fc1的输出可以作为嵌入数据。
-
-
嵌入数据记录：
-
使用
add_embedding方法记录嵌入数据。mat参数是嵌入数据，metadata是标签，label_img是对应的图像数据。 -
在训练过程中，每隔一定步数（例如每100步）记录一次嵌入数据。
-
-
TensorBoard 可视化：
-
启动 TensorBoard：
bash复制
tensorboard --logdir=runs -
在浏览器中访问
http://localhost:6006，进入 Embeddings 选项卡，可以看到嵌入数据的可视化结果。通过 t-SNE 或 PCA 方法，可以将高维嵌入数据投影到低维空间，观察数据的分布情况。
-
-
总结
TensorBoard 是一个强大的可视化工具，可以帮助我们更好地理解模型的训练过程和结果。通过记录标量、图像、直方图、嵌入数据等信息，我们可以在训练过程中实时观察模型的性能，调整训练策略，优化模型结构。
其他案例
1. 图像可视化
在训练过程中，可以记录中间层的输出图像或输入图像，用于观察模型的特征提取效果。
writer = SummaryWriter('runs/image_visualization')# 假设 data 是输入图像，output 是模型的某个中间层输出 writer.add_image('input', data[0], global_step=epoch) writer.add_image('output', output[0], global_step=epoch) writer.close()2. 直方图可视化
记录模型参数的分布情况，有助于分析模型的训练状态。
writer = SummaryWriter('runs/histogram_visualization')# 假设 model 是模型对象 for name, param in model.named_parameters():writer.add_histogram(name, param, global_step=epoch) writer.close()3. 自定义图表
TensorBoard 支持自定义图表，可以通过
add_custom_scalars方法定义多条曲线的组合视图。writer = SummaryWriter('runs/custom_scalars')# 定义自定义图表 writer.add_custom_scalars_multilinechart(['Loss/train', 'Loss/test']) writer.add_custom_scalars_marginchart(['Accuracy/train', 'Accuracy/test'])# 记录数据 for epoch in range(100):writer.add_scalar('Loss/train', np.random.random(), epoch)writer.add_scalar('Loss/test', np.random.random(), epoch)writer.add_scalar('Accuracy/train', np.random.random(), epoch)writer.add_scalar('Accuracy/test', np.random.random(), epoch)writer.close()
-
![16.[前端开发]Day16-HTML+CSS阶段练习(网易云音乐五)](https://i-blog.csdnimg.cn/direct/17f6a56d472d49969d8c42390b4b4d45.png)
