相較于服務(wù)器端機(jī)器學(xué)習(xí) (ML)，設(shè)備端機(jī)器學(xué)習(xí)有其獨(dú)特的優(yōu)勢(shì)，如支持離線使用、延遲更低、隱私性更高和推理成本更低，因此 Android 中設(shè)備端機(jī)器學(xué)習(xí)的使用迅速增長(zhǎng)。

在構(gòu)建基于設(shè)備端 ML 的功能時(shí)，Android 開發(fā)者通常有兩種選擇: 要么使用生產(chǎn)就緒型 SDK (包含經(jīng)過預(yù)訓(xùn)練和優(yōu)化的 ML 模型)，例如機(jī)器學(xué)習(xí)套件；要么在需要加強(qiáng)控制時(shí)，設(shè)置專屬的自定義 ML 模型和功能。

Android 自定義 ML 堆棧是一組用于在 Android 上部署自定義 ML 功能的基本 API 及服務(wù)，我們將為您介紹一些關(guān)于該堆棧的更新。

Google Play 服務(wù)中的 TensorFlow Lite 現(xiàn)已成為 Android 的官方 ML 推理引擎

在 2021 年 GoogleI/O 大會(huì)上，我們首次宣布在 Google Play 服務(wù)中推出早期預(yù)覽版的 TensorFlow Lite，作為獨(dú)立 TensorFlow Lite 的替代方案。從發(fā)布至今不斷發(fā)展，現(xiàn)在每個(gè)月通過數(shù)萬個(gè)應(yīng)用為數(shù)十億用戶提供服務(wù)。近期，我們?cè)?Google Play 服務(wù)中發(fā)布了 TensorFlow Lite 的穩(wěn)定版本，并且將其打造為 Android 的官方 ML 推理引擎。

在 Google Play 服務(wù)中使用 TensorFlow Lite 不僅可讓您縮減二進(jìn)制文件大小，還能通過自動(dòng)更新獲得性能提升，來確保您從 Android 自定義 ML 堆棧中輕松集成新 API 和服務(wù)，因?yàn)檫@些 API 和服務(wù)將在我們的官方推理引擎上進(jìn)行構(gòu)建。

如果您目前計(jì)劃將 TensorFlow Lite 綁定到應(yīng)用中，請(qǐng)查看文檔進(jìn)行遷移:

https://www.tensorflow.org/lite/android/play_services

TensorFlow Lite 委托現(xiàn)在可通過 Google Play 服務(wù)分發(fā)

我們?cè)趲啄昵鞍l(fā)布的 GPU 委托和 NNAPI 委托，可以讓您充分利用 GPU、DSP 或 NPU 等專用硬件的處理能力。現(xiàn)在，GPU 和 NNAPI 委托都可以通過 Google Play 服務(wù)分發(fā)。

我們也深知部分開發(fā)者希望在高級(jí)用例中直接使用自定義委托，因此正積極與硬件合作伙伴協(xié)作，致力于通過 Google Play 服務(wù)來擴(kuò)大對(duì)其自定義委托的訪問。

借助 Acceleration Service 選擇最合適的 TensorFlow Lite 委托，在運(yùn)行時(shí)實(shí)現(xiàn)最佳性能

在 Android 中，由于硬件差異，為每位用戶確定最佳委托頗為復(fù)雜。為幫助您應(yīng)對(duì)這一挑戰(zhàn)，我們正在構(gòu)建新的 API，以便您在運(yùn)行時(shí)為 TensorFlow Lite 模型安全地優(yōu)化硬件加速配置。

我們計(jì)劃在明年年初公開發(fā)布 Acceleration Service，現(xiàn)階段用戶可通過申請(qǐng)獲取早期預(yù)覽版:

持續(xù)打造 Android 自定義 ML 堆棧

我們致力于為 Android 的高性能自定義設(shè)備端 ML 提供必備資源。

• Google Play 服務(wù)中用于高性能設(shè)備端推理的 TensorFlow Lite

• 用于獲取硬件加速的 TensorFlow Lite 委托

我們將于不久后發(fā)布 Acceleration Service，幫助您在運(yùn)行時(shí)選擇最佳委托。

如需閱讀并了解關(guān)于 Android 自定義機(jī)器學(xué)習(xí)堆棧的最新資訊，您可以訪問官方網(wǎng)站:

?