訓(xùn)練

一個(gè)網(wǎng)絡(luò)的三要素：結(jié)構(gòu)、算法、權(quán)值

網(wǎng)絡(luò)模型一旦選定，三要素中結(jié)構(gòu)和算法就確定了，接下來要對(duì)權(quán)值進(jìn)行調(diào)整。

神經(jīng)網(wǎng)絡(luò)是將一組訓(xùn)練集（training set）送入網(wǎng)絡(luò)，根據(jù)網(wǎng)絡(luò)的實(shí)際輸出與期望輸出間的差別來調(diào)整權(quán)值。

訓(xùn)練模型的步驟：

選擇樣本集合的一個(gè)樣本（Ai Bi） （數(shù)據(jù) 標(biāo)簽）

送入網(wǎng)絡(luò)，計(jì)算網(wǎng)絡(luò)的實(shí)際輸出Y（此時(shí)網(wǎng)絡(luò)中的權(quán)重都是隨機(jī)的）

計(jì)算D=Bi -Y（預(yù)測(cè)值與實(shí)際值的差）

根據(jù)誤差D調(diào)整權(quán)值矩陣W

對(duì)每個(gè)樣本重復(fù)上述過程，直到對(duì)整個(gè)樣本集來說，誤差不超過規(guī)定范圍。

使用

神經(jīng)網(wǎng)絡(luò)框架

Caffe是一種開源的軟件框架，利用這套框架，我們可以實(shí)現(xiàn)新的網(wǎng)絡(luò)、修改已有的神經(jīng)網(wǎng)絡(luò)、訓(xùn)練網(wǎng)絡(luò)、編寫網(wǎng)絡(luò)使用。

實(shí)現(xiàn)新的網(wǎng)絡(luò)

1 數(shù)據(jù)打包

2 編寫網(wǎng)絡(luò)結(jié)構(gòu)文件

3 編寫網(wǎng)絡(luò)求解文件

4 開始訓(xùn)練

caffe的文件結(jié)構(gòu)

data 用于存放下載的訓(xùn)練數(shù)據(jù)

例如安裝后會(huì)有 mnist ilsvrc12 cifar10

docs example 使用的幫助文檔和代碼樣例

使用與部署

直接使用caffe神經(jīng)網(wǎng)絡(luò)框架比較復(fù)雜，可以使用NVIDIA推出的DIGIST可視化工具進(jìn)行網(wǎng)絡(luò)的訓(xùn)練。

TensorRT 網(wǎng)絡(luò)框架 采取“”精度換速度“”的策略，在精度無明顯下降的前提下，其對(duì)inference的加速明顯，往往有1倍以上的性能提升，它能根據(jù)prototxt文件和caffemodel權(quán)值，轉(zhuǎn)化為支持半精度的新的模型。其工作流程：

構(gòu)建：構(gòu)建一個(gè)網(wǎng)絡(luò)、進(jìn)行優(yōu)化

執(zhí)行：引擎運(yùn)行推理任務(wù)

使用TensorRT部署神經(jīng)網(wǎng)絡(luò)

訓(xùn)練對(duì)于深度學(xué)習(xí)來說是為了獲得一個(gè)性能優(yōu)異的模型，其主要的關(guān)注點(diǎn)在于模型的準(zhǔn)確度等指標(biāo)。推理則不一樣，其沒有了訓(xùn)練中的反向迭代過程，是針對(duì)新的數(shù)據(jù)進(jìn)行預(yù)測(cè)，而我們?nèi)粘Ｉ钪惺褂玫腁I服務(wù)都是推理服務(wù)。相較于訓(xùn)練，推理的關(guān)注點(diǎn)不一樣，從而也給現(xiàn)在有技術(shù)帶來了新的挑戰(zhàn)：

推理更關(guān)注的是高吞吐率、低響應(yīng)時(shí)間、低資源消耗以及簡(jiǎn)便的部署流程，而TensorRT就是用來解決推理所帶來的挑戰(zhàn)以及影響的部署級(jí)的解決方案。