1.TensorBoard神經(jīng)網(wǎng)絡(luò)可視化工具

TensorBoard是一個(gè)強(qiáng)大的可視化工具，在pytorch中有兩種調(diào)用方法：

1.from tensorboardX import SummaryWriter

這種方法是在官方還不支持tensorboard時(shí)網(wǎng)上有大神寫的

2.from torch.utils.tensorboard import SummaryWriter

這種方法是后來更新官方加入的

1.1 調(diào)用方法

1.1.1 創(chuàng)建接口SummaryWriter

功能：創(chuàng)建接口

調(diào)用方法：

writer = SummaryWriter("runs")

參數(shù)：

log_dir：event file輸出文件夾

comment：不指定log_dir時(shí)，文件夾后綴

filename_suffix：event file文件名后綴

1.1.2 記錄標(biāo)量add_scalars()

功能：記錄標(biāo)量add_scalars()

調(diào)用方法：

writer.add_scalars("name",{"dic":val},epoch)

參數(shù)：

tag：圖像的標(biāo)簽名

scalar_step：要記錄的標(biāo)量

global_step：輪次

1.1.3 統(tǒng)計(jì)直方圖add_histogram()

功能：統(tǒng)計(jì)直方圖與多分位數(shù)折線圖

調(diào)用方法：

writer.add_histogram("weight",self.fc.weight,epoch)

參數(shù)：

tag：圖像的標(biāo)簽名

values：要畫直方圖的數(shù)據(jù)

global_step：輪次

bins：取值有 ‘tensorflow'、‘a(chǎn)uto'、‘fd' 等

1.1.4 批次顯示圖像add_image()

功能：批次顯示圖像

調(diào)用方法：

writer.add_image(“Cifar10”, img_batch, epoch,'CHW')

參數(shù)：

tag：圖像的標(biāo)簽名

img_tensor：圖像數(shù)據(jù)，注意尺寸

global_step：輪次

dataformats：數(shù)據(jù)形式，CHW,HWC,HW

1.1.5 查看模型圖add_graph()

功能：查看模型圖

調(diào)用方法：

writer.add_graph(model=net,input_to_model=torch.randn(1,3, 224, 224).to(device))

參數(shù)：

model：模型，必須是nn.Module

input_to_model：輸出給模型的數(shù)據(jù)

verbose：是否打印計(jì)算圖結(jié)構(gòu)信息

寫完記得要寫 writer.close()

2.查看網(wǎng)絡(luò)層形狀、參數(shù)torchsummary

功能：查看網(wǎng)絡(luò)層形狀、參數(shù)

調(diào)用方法：

from torchsummary import summary
summary(net, input_size=(3, 224, 224))

參數(shù)：

model：pytorch模型

input_size：模型輸入size

batch_size：batch size

device：“cuda” or “cpu”

3.啟動(dòng)tensorboard

在文件路徑中cmd打開終端，輸入

tensorboard --logdir="./runs"

runs是我保存文件的文件名，打開以下鏈接

補(bǔ)充：pytorch調(diào)用tensorboard方法嘗試

tensorboard提供了用于監(jiān)視訓(xùn)練損失很好的接口，可以幫助我們更好的調(diào)整參數(shù)。下文介紹如何在pytorch中調(diào)用tensorboard。

首先

安裝tensorboard、tensorflow以及tensorboardX

第二

在文件開頭導(dǎo)入SummaryWriter

from tensorboardX import SummaryWriter

第三

同tensorflow的tensorboard一樣，tensorboardX提供多種記錄方式如scalar、image等。

writer = SummaryWriter('path')

如果不添加path，則默認(rèn)以時(shí)間命名。

第四

添加監(jiān)視變量

writer.add_scalar('Train/Acc', Acc, iter)

第五

打開tensorboard

tensorboard --logdir 'path'

第六

在瀏覽器打開6006端口

以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教。