專(zhuān)業(yè)提示：與前面的提示一樣，如果您的互聯(lián)網(wǎng)速度較慢或不想配置 docker 等，AWS Cloud9 在這里是一個(gè)很大的幫助。

您會(huì)注意到兩個(gè)容器，一個(gè)用于訓(xùn)練，一個(gè)用于推理。如果您想訓(xùn)練模型并在 tyhac 后端替換它，則無(wú)需擔(dān)心推理容器。如果您想使用專(zhuān)用 SageMaker 端點(diǎn)運(yùn)行推理，則包含容器代碼和筆記本。

要構(gòu)建容器，您需要再次使用 aws cli 進(jìn)行身份驗(yàn)證，更新 Dockerfile 以反映您的 AWS 區(qū)域，然后只需運(yùn)行 shell 腳本：

./build_and_push.sh

SageMaker 圖表

使用圖表更容易理解 SageMaker、ECR 和筆記本如何連接在一起。下圖顯示了 tyhac 筆記本和服務(wù)如何協(xié)同工作：

泰哈克圣人

?

使用筆記本_

Studio IDE 和筆記本將為您提供運(yùn)行所需的一切，只需打開(kāi)筆記本并逐步瀏覽單元格：

運(yùn)行筆記本

?

在大多數(shù)情況下，我使用 AWS 的 tensorflow 內(nèi)核并添加了幾個(gè)我需要的包。您可以在 IDE 頂部更改內(nèi)核。

改變內(nèi)核

?

數(shù)據(jù)可視化

完成一些數(shù)據(jù)準(zhǔn)備后，在您開(kāi)始訓(xùn)練之前，會(huì)出現(xiàn)包含數(shù)據(jù)可視化的單元格，下面顯示了來(lái)自 covid-19 陽(yáng)性和陰性患者的樣本。輸出是我們用于訓(xùn)練的音頻梅爾譜圖：

縮放梅爾譜圖

?

更多頻譜圖

?

我們可以進(jìn)一步挖掘數(shù)據(jù)集以顯示我們當(dāng)前的標(biāo)簽和頻譜圖：

批量拆分

?

訓(xùn)練

一旦您對(duì) dataprep 感到滿(mǎn)意，您就可以進(jìn)入訓(xùn)練筆記本，這將運(yùn)行 sagemaker 訓(xùn)練作業(yè)并將模型文件輸出到 s3，您可以更新筆記本中的超參數(shù)和模型架構(gòu)：

hyperparams = { 'epochs'       : 1,
                'learning-rate': 0.001, # fastai default
                'batch-size'   : 64, # fastaudio default
                'model-arch'   : 'resnet18', # resnet34
                'workers'      : 16 # default 2
              }

您將需要為您的帳戶(hù)更新容器位置：

image_uri            = 'ACCOUNTID.dkr.ecr.ap-southeast-2.amazonaws.com/tyhac-sagemaker-fastai:1.0-gpu-py36',

我開(kāi)發(fā)的 notebook 會(huì)輸出一些圖像，您可以使用這些圖像查看模型性能：

泰哈克模型 roc

?

在 AWS 中更新模型

如果您對(duì)模型感到滿(mǎn)意，您只需從 sagemaker S3 存儲(chǔ)桶下載 model.tar.gz，提取內(nèi)容并將 export.pkl 復(fù)制到 aws-cdk/src/lambda/predictor/model 文件夾中。

然后更新您的 AWS CDK 部署：

cd aws-cdk
projen deploy

現(xiàn)在，當(dāng) tyhac M5 Core AWS EduKit 事物接收到新樣本以對(duì)其執(zhí)行推理時(shí)，將使用您新訓(xùn)練的模型。簡(jiǎn)單的！

第五步：清理

一旦您完成了項(xiàng)目并且您不再需要運(yùn)行任何 tyhac AWS 堆棧，我們應(yīng)該刪除它們。

因?yàn)槲覀兪褂昧?CDK，所以移除堆棧很容易

您首先需要使用 AWS 管理控制臺(tái)從 AWS IoT 核心 CDK 策略中刪除設(shè)備證書(shū)，然后：

cd aws-cdk
projen destroy

專(zhuān)業(yè)提示：您還可以通過(guò) AWS 控制臺(tái)使用 cloudformation 來(lái)刪除堆棧。

這將留下以下需要手動(dòng)刪除的內(nèi)容：

• AWS S3 存儲(chǔ)桶
• AWS DynamoDB
• AWS ECR（容器）

導(dǎo)航到 AWS 控制臺(tái)中的這些服務(wù)以清空和刪除它們。

如果您配置了 SageMaker Studio：

• 導(dǎo)航到 SageMaker Studio
• 點(diǎn)擊用戶(hù)，刪除關(guān)聯(lián)應(yīng)用
• 刪除用戶(hù)
• 回去
• 刪除工作室

刪除 Studio 應(yīng)用程序

?

導(dǎo)航到 AWS EFS

• 選擇 EFS 卷，然后刪除

刪除 EFS 卷

?

專(zhuān)業(yè)提示：如果您有多個(gè)卷檢查標(biāo)簽，SageMaker 會(huì)標(biāo)記與 SageMaker 關(guān)聯(lián)的卷。

困難/挑戰(zhàn)

我現(xiàn)在將討論我在這個(gè)項(xiàng)目中遇到的一些挑戰(zhàn)，劇透有很多（現(xiàn)在仍然如此）:)

使用SageMaker 進(jìn)行深度學(xué)習(xí)

• 你怎么能從音頻中預(yù)測(cè)任何東西？

這是一個(gè)兔子洞，試圖了解我如何使用音頻咳嗽來(lái)預(yù)測(cè)任何事情。一旦我開(kāi)始研究這個(gè)問(wèn)題，我就能找到一些非常棒的信息和研究論文（參見(jiàn) repo）。最后，最好的方法是使用具有已知架構(gòu)的梅爾譜圖和卷積神經(jīng)網(wǎng)絡(luò)。使用音頻圖像，而不是查看音頻樣本的數(shù)字?jǐn)?shù)據(jù)點(diǎn)。

• 資料準(zhǔn)備，資料準(zhǔn)備，資料準(zhǔn)備

這似乎永無(wú)止境，下載數(shù)據(jù)，排序數(shù)據(jù)，找到標(biāo)簽，沖洗并重復(fù)。發(fā)現(xiàn)沒(méi)有足夠的數(shù)據(jù)，盡可能調(diào)整以獲得更多數(shù)據(jù)，然后意識(shí)到我在數(shù)據(jù)準(zhǔn)備中犯了一個(gè)錯(cuò)誤，需要重做。耗時(shí)但關(guān)鍵的堆棧部分。

• 超參數(shù)、音頻參數(shù)、框架

時(shí)代？優(yōu)化器？一種全新的語(yǔ)言，我在訓(xùn)練一個(gè)完全有效的模型時(shí)遇到了很多麻煩。嘗試了各種框架但沒(méi)有成功，我?guī)缀醴艞壛诉@個(gè)項(xiàng)目，并準(zhǔn)備寫(xiě)下我的失敗。我會(huì)不斷地訓(xùn)練一個(gè) ROC 為 0.5 的模型，這是一個(gè)完全沒(méi)用的模型。FastAI 真的把我從我自己那里救了出來(lái)，一旦我改用 fastai，我就能夠訓(xùn)練一些有用的東西，將它與 fastaudio 配對(duì)對(duì)音頻組件有相同的效果。

• 只是使用更多的 CPU 內(nèi)核，反正誰(shuí)需要 GPU

切換到 FastAI 后，我需要為框架構(gòu)建自定義 docker 容器。這很棒，但是，我在訓(xùn)練期間注意到從未使用過(guò) GPU。我把這個(gè)問(wèn)題放在了待辦事項(xiàng)上，并投入了更多的 CPU（不聰明），以使每個(gè)周期的訓(xùn)練時(shí)間達(dá)到 5-7 分鐘左右。我最終發(fā)現(xiàn) tensorflow 所需的軟件包是根據(jù)您的系統(tǒng)安裝的，我的本地系統(tǒng)缺少 NVIDIA GPU 并安裝了 CPU 軟件包。調(diào)整 Dockerfile 以提取 GPU 包意味著 GPU 已被使用，并且周期下降到大約 1 分鐘。這意味著，更多的成本節(jié)省，更少的時(shí)間！

• 好的，我有一個(gè)訓(xùn)練有素的模型，現(xiàn)在呢？

自定義容器和 SageMaker 推理。這過(guò)于復(fù)雜，如果您想使用 SageMaker 端點(diǎn)，您需要在 SageMaker 推理要求的框架內(nèi)工作。您的服務(wù)腳本中需要某些功能，這些功能只需要存在即可。我為此奮斗了最長(zhǎng)時(shí)間，認(rèn)為這不是真的，但現(xiàn)在理解了結(jié)構(gòu)化方法。

M5 Core2 堆棧 Arduino

• Micropython，不，arduino

我想快點(diǎn)，我正在為 SageMaker 開(kāi)發(fā) python 筆記本，我知道 M5 Core2 可以使用 micropython。我最初對(duì) micropython 的實(shí)驗(yàn)并不順利，很早就很清楚我試圖做的事情超出了設(shè)備上 micropython 的范圍，因?yàn)闀r(shí)間限制。我的下一個(gè)目標(biāo)是 arduino，它最終運(yùn)行良好。該設(shè)備支持多種語(yǔ)言真是太好了。我認(rèn)為轉(zhuǎn)移到 esp-idf 將是一個(gè)很好的下一步。

• LM393是麥克風(fēng)嗎？

我以為這是麥克風(fēng)，而不僅僅是聲音傳感器。我最初的設(shè)計(jì)需要一個(gè)觸發(fā)器來(lái)啟動(dòng)錄音，這就是我購(gòu)買(mǎi) LM393 的原因，但我也認(rèn)為它是一個(gè)更高質(zhì)量的麥克風(fēng)。我必須快速適應(yīng)使用內(nèi)置麥克風(fēng)。

• SM1423 內(nèi)置麥克風(fēng) I2S

內(nèi)置麥克風(fēng)使用 I2S，這與我過(guò)去沒(méi)有任何關(guān)系。試圖了解如何從 I2S 接口讀取數(shù)據(jù)并將其寫(xiě)入文件是一項(xiàng)挑戰(zhàn)。關(guān)于 arduino、SDCards 和 wav 文件有一些例子，但并不多。大量的試驗(yàn)和錯(cuò)誤。

• 我只想通過(guò) HTTPS 將文件上傳到 S3，有什么用？

我無(wú)法計(jì)算出 AWS S3 所需的標(biāo)頭，它會(huì)不斷被 S3 拒絕。大量的調(diào)試、更改文件類(lèi)型、查看標(biāo)題等，我最終得到了它的工作。我找不到任何關(guān)于如何使用 arduino 執(zhí)行此操作的明確示例。據(jù)我所知，我的示例是迄今為止唯一公開(kāi)可用的已知工作示例。

• 嘿，酷，RGB燈，讓我們使用它們，這不是橙色的嗎？

在經(jīng)歷了所有挑戰(zhàn)之后，我決定繞道而行，用 RGB 燈玩一玩。原來(lái) fastled 庫(kù)中的 RGB 燈出現(xiàn)故障，我會(huì)嘗試制作橙色，它會(huì)以不同的方式結(jié)束。一旦我理解了這個(gè)問(wèn)題，在我的代碼中交換值就可以更容易地選擇我的 RGB 顏色，然后讓我的函數(shù)句柄交換。都是些小事...

• 搬家，網(wǎng)速慢，AWS Cloud9 來(lái)拯救

在我搬家的項(xiàng)目快結(jié)束時(shí)，新位置的下載速度不錯(cuò)，但上傳可能會(huì)更好。通常這不是問(wèn)題，但我的堆棧嚴(yán)重依賴(lài)需要上傳到 AWS ECR 的容器。當(dāng)我處理設(shè)備和分段/預(yù)測(cè) lambda 函數(shù)時(shí)，我需要快速迭代代碼更改。進(jìn)行簡(jiǎn)單的更改需要 20、30、60 分鐘。

我最終切換到 AWS Cloud9 進(jìn)行 aws-cdk 部署，這將容器更改的時(shí)間縮短到 2-5 分鐘。托管服務(wù)的啟動(dòng)和運(yùn)行快速、簡(jiǎn)單且具有成本效益。切換到 Cloud9 只需幾分鐘，如果沒(méi)有它，我將無(wú)法完成挑戰(zhàn)。

下一步

這個(gè)項(xiàng)目是一個(gè)很好的開(kāi)始，可以端到端地展示您如何使用 M5 Core2 AWS EduKit 解決這個(gè)問(wèn)題。有許多改進(jìn)和未來(lái)的機(jī)會(huì)可以考慮：

• 設(shè)備注冊(cè)

我正在使用 RSA 證書(shū)身份驗(yàn)證（根據(jù) AWS 控制臺(tái)），M5 堆棧包含一個(gè)安全硬件元素。我最初試圖讓它與 arduino 一起工作的嘗試沒(méi)有奏效。AWS 在 M5 Stack 存儲(chǔ)庫(kù)中有一個(gè)修改過(guò)的庫(kù)，我懷疑這是它工作所必需的。

• 嘗試不同的麥克風(fēng)

我想使用不同的麥克風(fēng)，看看社區(qū)可能會(huì)推薦什么來(lái)提高音頻質(zhì)量。

• 局部推理

一個(gè)不錯(cuò)的改變是嘗試將模型推理帶到設(shè)備本身，但在 AWS 中更接近邊緣時(shí)失敗。這將減少推理時(shí)間，但是基于數(shù)據(jù)進(jìn)行訓(xùn)練仍然會(huì)很好，后臺(tái)上傳可能需要研究。

• 更多數(shù)據(jù)

該模型與數(shù)據(jù)一樣好，它需要更多。看看公共數(shù)據(jù)是否繼續(xù)增長(zhǎng)將會(huì)很有趣，這可能有助于用新數(shù)據(jù)重新訓(xùn)練模型并提高準(zhǔn)確性。

• 不同的設(shè)備

因?yàn)槎褩Ｊ墙怦畹模覀儙缀蹩梢允褂萌魏斡涗浺纛l的設(shè)備來(lái)執(zhí)行此操作。我們可以利用任何可能已經(jīng)在錄制音頻的現(xiàn)有公共服務(wù)嗎？

最后的想法

我度過(guò)了很愉快的時(shí)間來(lái)應(yīng)對(duì)這個(gè)挑戰(zhàn)，這是對(duì) M5 Core2 Stack 的一個(gè)很好的介紹，它是一個(gè)非常強(qiáng)大的設(shè)備，非常適合像這個(gè)堆棧或更復(fù)雜的堆棧這樣的快速原型設(shè)計(jì)。我喜歡 AWS IoT 如何成為您所有 IoT 相關(guān)服務(wù)的中心點(diǎn)，從該中心服務(wù)與 AWS 安全交互的能力使得設(shè)計(jì)和與 DynamoDB 和 Lambda 集成變得容易。

我希望這個(gè)項(xiàng)目對(duì)其他人有用，可以在此基礎(chǔ)上進(jìn)行構(gòu)建、擴(kuò)展或獲取他們需要的部分，以使他們的原型或產(chǎn)品起步。

感謝 Hackster 和 AWS 將這一挑戰(zhàn)放在一起，并創(chuàng)建了一個(gè)社區(qū)以使這成為可能。

快樂(lè)編碼。