減小尺寸、重量和功耗 (SWaP) 的要求也影響著人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 設(shè)計。
“將商業(yè)和消費者人工智能加速器硬件技術(shù)轉(zhuǎn)化為軍用/航空平臺通常需要的可部署、堅固耐用、尺寸、重量和功率(SWaP)受限的系統(tǒng)”是一項挑戰(zhàn),Abaco Systems(阿拉巴馬州亨茨維爾)首席軟件工程師David Tetley說。
減少的SWaP往往與基于云的解決方案沒有協(xié)同作用,這些解決方案似乎具有無窮無盡的虛擬空間供應(yīng)。
不幸的是,現(xiàn)實情況是“許多軍事系統(tǒng)都受到SWaP的限制,這挑戰(zhàn)了當(dāng)今AI / ML解決方案的假設(shè),”風(fēng)河(加利福尼亞州阿拉米達(dá))航空航天與國防副總裁Ray Petty解釋說。“當(dāng)今的解決方案通常是在云或企業(yè)環(huán)境中開發(fā)的,假設(shè)可用連接(如帶寬和延遲)以及可用的計算資源(如可擴(kuò)展性、內(nèi)存和 CPU 靈活性)。
另一個挑戰(zhàn)是管理可能非常耗費資源的 ML 系統(tǒng)的資源。
值得慶幸的是,“我們看到最近獲得大量報道的大多數(shù)深度學(xué)習(xí)ML系統(tǒng)在訓(xùn)練時都是非常資源密集型的,但在運行時并不是特別密集,”Charles River Analytics首席科學(xué)家Avi Pfeffer說。“這意味著如果它們非常適合該問題,它們是降低SWaP系統(tǒng)的不錯選擇;也就是說,有足夠的數(shù)據(jù)來訓(xùn)練他們。
然而,在設(shè)計傳統(tǒng)上受SWaP約束的ML / AI密集型系統(tǒng)(如飛機(jī))時,空間成為一個問題。
“我們一直致力于將人工智能應(yīng)用于構(gòu)建安全系統(tǒng),例如用于檢測我們?yōu)榭哲娧芯繉嶒炇医ㄔ斓娘w機(jī)航空電子系統(tǒng)中運行的惡意軟件的系統(tǒng),”Charles River Analytics(馬薩諸塞州劍橋)的首席科學(xué)家Terry Patten說。“我們發(fā)現(xiàn),有關(guān)系統(tǒng)運行狀況的最佳信息來源之一,也是實時攻擊中緩解資源的最佳來源之一,是冗余,這對于減少SWaP的系統(tǒng)來說是有問題的。
在管理 SWaP 約束時,加固也可能很棘手。
“尺寸可能是最具挑戰(zhàn)性的制約因素之一,因為大型設(shè)備比小型設(shè)備更難加固,”Mercury Systems(馬薩諸塞州安多弗)首席產(chǎn)品經(jīng)理Devon Yablonski說。“大多數(shù)經(jīng)過高振動測試并以BGA形式提供的嵌入式部件都是低功耗部件,它們犧牲了其‘全尺寸’對應(yīng)物的許多功能,而這些功能正是這些新的ML和AI應(yīng)用程序所期望的功能。例如,當(dāng)今許多處理器上的高帶寬內(nèi)存(HBM)無法很好地處理高溫,因此在嵌入式芯片上并不常見。對內(nèi)存的高速訪問對于ML和AI應(yīng)用程序至關(guān)重要。
問題在于,用戶無法“在SWaP受限的系統(tǒng)中部署廣泛用于AI的高功率,服務(wù)器級CPU和GPU,因此我們需要使用移動級設(shè)備[因為它們的功耗更低,散熱設(shè)計更低],”Tetley解釋說。“理想情況下,這些設(shè)備包括特定的AI加速功能,可提供出色的每瓦IOPS [每秒推理操作]。這方面的一個例子是 NVIDIA 圖靈類 GPU 和 NVIDIA Xavier SoC [片上系統(tǒng)] 上的深度學(xué)習(xí)加速器。此外,您需要確保通過使用 NVIDIA 的 TensorRT 等工具高度優(yōu)化您部署的神經(jīng)網(wǎng)絡(luò)(或“推理引擎”)。這確保了軟件針對目標(biāo)嵌入式硬件架構(gòu)進(jìn)行了理想優(yōu)化,從而盡可能高效地運行。
通常,SWaP 要求與許多 ML 模型和解決方案不兼容。
Petty補充說,同樣重要的是要注意,“許多軍事系統(tǒng)的SWaP約束與這些假設(shè)不兼容,需要重構(gòu)AI / ML解決方案。“然而,重構(gòu)與AI / ML解決方案對工業(yè)控制,醫(yī)療和汽車等其他市場的適應(yīng)是一致的,并且解決方案可以跨領(lǐng)域利用。
當(dāng)然,在商業(yè)領(lǐng)域,人工智能/媒介與信息素養(yǎng)領(lǐng)域的統(tǒng)治君主“是世界上的Facebook、谷歌和亞馬遜,”Yablonski說。“他們對最小化尺寸、重量和功耗的要求有限,除了如果可以減少其中任何一個,他們可以構(gòu)建更高效的數(shù)據(jù)中心。英特爾、英偉達(dá)、AMD等芯片供應(yīng)商迎合了這些市場。盡管追求很重要,但防御的數(shù)量要低得多。要從商業(yè)領(lǐng)域獲得高性能芯片和產(chǎn)品,這些芯片和產(chǎn)品在我們的市場上具有生存能力,并考慮到功率限制(每臺計算機(jī)通常為100-200瓦)和尺寸限制,這是一項挑戰(zhàn)。
審核編輯:郭婷
-
人工智能
+關(guān)注
關(guān)注
1791文章
47234瀏覽量
238351 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8411瀏覽量
132600
發(fā)布評論請先 登錄
相關(guān)推薦
評論