想象一下，你即將開啟一生難忘的山地自行車冒險(xiǎn)之旅。計(jì)劃已經(jīng)完成，相應(yīng)的訓(xùn)練也基本到位，當(dāng)下所需要的就是一輛完美的自行車。你需要好的減震器、輪胎、剎車、車架、車把和座椅。假設(shè)所有這些部件都集中在一個(gè)包裹中，并且預(yù)先組裝在了一起，從而為你節(jié)省時(shí)間和花費(fèi)。

NVIDIA IGX Orin為邊緣 AI 應(yīng)用程序開發(fā)人員提供了類似的工具包：一個(gè)優(yōu)化的一體式平臺(tái)。NVIDIA IGX Orin 是第一個(gè)將工業(yè)級(jí)硬件與企業(yè)級(jí)軟件相結(jié)合，并支持邊緣 AI 管理的平臺(tái)。

圖 1 硬件和企業(yè)級(jí)軟件工作流程，以確保安全的邊緣AI管理

NVIDIA IGX Orin 讓公司能夠轉(zhuǎn)向軟件定義的模型，從而提高開發(fā)速度、降低成本，而不是浪費(fèi)寶貴的資源拼湊平臺(tái)來(lái)運(yùn)行或開發(fā) AI 應(yīng)用程序。

NVIDIA IGX Orin 專為工業(yè)和醫(yī)療環(huán)境打造，為開發(fā)人員提供邊緣 AI 所需的性能、耐用性、安全性和安全功能。

NVIDIA IGX Orin 開發(fā)套件

硬件

• IGX Orin 模塊：工業(yè)級(jí)；已認(rèn)證就緒

• CPU ：12 核 Arm

• GPU ：NVIDIA Ampere 1024 CUDA ，64 Tensor

• 硬件安全擴(kuò)展

• 功能安全島

• NVIDIA ConnectX-7 智能網(wǎng)絡(luò)接口卡（SmartNIC）提供 200Gb/s 的網(wǎng)絡(luò)速度，非常適合接收高幀率視頻

• 用于固件更新的 NVIDIA 基板管理控制器（BMC）

• 安全 MCU

• 與功能安全島（FSI）和安全擴(kuò)展包軟件攜手合作

• 監(jiān)控 IGX 和機(jī)箱環(huán)境的電壓、溫度、風(fēng)扇和速度

• 機(jī)箱，包括冷卻風(fēng)扇

• 電源裝置

• 附件（用于連接的各種電纜）

軟件

• NVIDIA AI SDK

• NVIDIA Metropolis

• NVIDIA Holoscan

• 安全擴(kuò)展包

• 商業(yè)操作系統(tǒng)集成

• Canonical，紅帽

更多有關(guān)信息，請(qǐng)參閱NVIDIA IGX productspecifications(https://www.nvidia.com/en-us/edge-computing/products/igx/)。

關(guān)鍵用例

工業(yè)安全：預(yù)防工作場(chǎng)所的險(xiǎn)情

隨著機(jī)器與人類互動(dòng)的增加，特別是在倉(cāng)庫(kù)和制造環(huán)境中，functional safety變得至關(guān)重要。更多詳細(xì)信息，請(qǐng)參見全新NVIDIA IGX 平臺(tái)幫助創(chuàng)建安全、自動(dòng)化的未來(lái)工廠(https://blogs.nvidia.com/blog/2022/09/20/igx-industrial-edge-ai/)。

Reactive safety是自主機(jī)器的標(biāo)準(zhǔn)規(guī)定，當(dāng)出現(xiàn)安全威脅或事件時(shí)，會(huì)減慢或關(guān)閉機(jī)器。這會(huì)減輕對(duì)相關(guān)人員造成的傷害，但停機(jī)時(shí)間的成本也非常昂貴。

除了支持 reactive safety功能外，NVIDIA IGX Orin 還使公司能夠構(gòu)建proactive safety，以防止危險(xiǎn)事件的發(fā)生。Proactive safety的運(yùn)作類似早期檢測(cè)和響應(yīng)系統(tǒng)，通過(guò)控制面板來(lái)監(jiān)督自主機(jī)器集群。

Proactive safety包括在事件發(fā)生前識(shí)別安全隱患，采取適當(dāng)措施，保護(hù)工人，最小化停機(jī)時(shí)間和相關(guān)成本。以下提供了一些 proactive safety 的具體示例。

• PPE detection：可以訓(xùn)練 AI 模型，以幫助監(jiān)測(cè)和檢測(cè)個(gè)人防護(hù)裝備（PPE）的適當(dāng)使用。

• Barrier breaches：?jiǎn)⒂?AI 的攝像頭和傳感器可以識(shí)別及分類物體和人，以確定是否存在安全或安保威脅，并提示采取適當(dāng)?shù)陌踩胧?/p>

• Collision detection：AI 可以分析實(shí)時(shí)視頻和圖像處理，以確定機(jī)器和人類的運(yùn)動(dòng)是否可能導(dǎo)致碰撞，然后采取安全措施避免事故發(fā)生。

NVIDIA IGX Orin 和NVIDIA MetropolisSDK 的結(jié)合為開發(fā)人員提供了強(qiáng)大平臺(tái)，加速功能安全 AI 應(yīng)用程序開發(fā)，并管理自主機(jī)器集群。

工業(yè)自動(dòng)化：更快、更準(zhǔn)確、更高效的供應(yīng)鏈

低效的供應(yīng)鏈加上勞動(dòng)力短缺，對(duì)公司滿足需求和保持客戶滿意度的能力產(chǎn)生了深遠(yuǎn)的負(fù)面影響。對(duì)更高效的供應(yīng)鏈的迫切需求，帶來(lái)了 AI 解決方案的快速發(fā)展。

例如，履行中心在公司的供應(yīng)鏈中發(fā)揮著關(guān)鍵作用。使用 NVIDIA IGX Orin 、 NVIDIA Metropolis SDK 和NVIDIA Omniverse可以將低效的供應(yīng)鏈轉(zhuǎn)化為面向未來(lái)、適應(yīng)性強(qiáng)的運(yùn)營(yíng)。可以開發(fā) AI 應(yīng)用程序以產(chǎn)出高質(zhì)量的感知數(shù)據(jù)，為實(shí)時(shí)決策提供信息，從而提高運(yùn)營(yíng)效率。請(qǐng)參閱下面的幾個(gè)例子。

• Industrial inspection：AI 模型被訓(xùn)練來(lái)檢測(cè)和分類物體，并識(shí)別去除缺陷產(chǎn)品。

• Predictive maintenance：通過(guò)對(duì)周圍環(huán)境、故障檢測(cè)和機(jī)器/機(jī)器人性能的數(shù)據(jù)分析，AI 可以預(yù)測(cè)設(shè)備何時(shí)可能需要主動(dòng)維護(hù)，以避免停機(jī)。

• Field inspection：圖像識(shí)別和處理與自動(dòng)報(bào)告相結(jié)合，使現(xiàn)場(chǎng)檢查更加準(zhǔn)確、安全和高效。

通過(guò)分析來(lái)自傳感器或其他來(lái)源的數(shù)據(jù)，可以在 AI 的幫助下檢測(cè)甚至消除生產(chǎn)中的瓶頸。

醫(yī)療設(shè)備：在臨床邊緣實(shí)時(shí)處理流式數(shù)據(jù)

醫(yī)療設(shè)備制造商正在采用新的 AI 功能，以加速 TTM 并降低開發(fā)和維護(hù)成本。利用 AI 計(jì)算平臺(tái)可以在以下方面賦能醫(yī)療設(shè)備開發(fā)人員：

• 更快地訓(xùn)練醫(yī)學(xué) AI 模型

• 構(gòu)建和微調(diào)醫(yī)療 AI 應(yīng)用程序

• 核實(shí)和驗(yàn)證醫(yī)療級(jí)應(yīng)用程序

• 安全地部署到臨床生產(chǎn)

• Ultrasound：AI 應(yīng)用可以通過(guò)改進(jìn)圖像優(yōu)化、分析和解釋來(lái)提高超聲的準(zhǔn)確性，有助于更好地診斷癌癥腫瘤或妊娠期異常等疾病。

• Endoscopy：AI 可以幫助提高成像解釋的準(zhǔn)確性和速度，從而減少醫(yī)療專業(yè)人員的工作量，并更好地檢測(cè)情況。了解更多信息，請(qǐng)參閱AI in Endoscopy: Improving Detection Rates and Visibility with Real-Time Sensing(https://developer.nvidia.com/blog/ai-in-endoscopy-improving-detection-rates-and-visibility-with-real-time-sensing/)。

• Robotic surgery：醫(yī)療保健創(chuàng)新者正在探尋 AI 的方式，通過(guò)將肉眼無(wú)法看到的關(guān)鍵生理結(jié)構(gòu)和功能（如血流）實(shí)時(shí)可視化，來(lái)幫助外科醫(yī)生避免并發(fā)癥。一些其他領(lǐng)先的公司則使用 AI 遠(yuǎn)程連接外科醫(yī)生，以便合作，帶來(lái)盡可能好的結(jié)果。了解更多信息，請(qǐng)參閱NVIDIA Medical Edge AI Computing Platform Selected by Top Robotic and Digital Surgery Startups(https://blogs.nvidia.com/blog/2022/09/20/igx-clara-holoscan-edge-ai-robotic-surgery/)。

開始著手

掃描海報(bào)二維碼，或點(diǎn)擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！