Google正式發表TensorFlow Lite 預覽版,提供行動、嵌入設備的輕量級解決方案!

Google 正式發表 TensorFlow Lite 開發者預覽版,這是針對行動和嵌入式設備的輕量級解決方案!TensorFlow Lite 是一種全新的設計,具有三個重要功能—輕量級(Lightweight)、跨平台(Cross-platform)、快速(Fast)
評論
評論

本篇來自合作媒體 雷鋒網 ,INSIDE 經授權轉載。

Google 正式發表 TensorFlow Lite 開發者預覽版,這是針對行動和嵌入式設備的輕量級解決方案。TensorFlow Lite 是一種全新的設計,具有三個重要功能—輕量級(Lightweight)、跨平台(Cross-platform)、快速(Fast)。

下面是來自 Google Developers Blog 的詳細資訊:

今天,我們正式發布 TensorFlow Lite 開發者預覽版,這是針對行動和嵌入式設備的輕量級解決方案。TensorFlow 可以在許多平台上運行,從機架上大量的服務器到小型的物聯網設備,但近幾年,隨著大家使用的機器學習模型呈指數級增長,需要將訓練模型的平台擴展到行動和嵌入式設備上。TensorFlow Lite 支援設備上機器學習模型的低時延推理。

TensorFlow Lite 是一種全新的設計,它支援以下功能:

輕量級(Lightweight):支援機器學習模型的推理在較小二進制數下進行,能快速初始化/啟動。

跨平台(Cross-platform):可以在許多不同的平台上運行,現在支援 Android 和 iOS

快速(Fast):針對行動設備進行了優化,包括大大減少了模型加載時間、支援硬體加速。

如今,越來越多的行動設備中含有專用的定制硬體來更高效地進行機器學習。TensorFlow Lite 支援 Android 神經網絡 API(Android Neural Networks API),大家在使用 TensorFlow Lite 時可以利用這些有用的加速器。

當加速器(硬體設備)不可用時,TensorFlow Lite 會返回到 CPU 來執行,這將保證模型仍然可以在一大批設備上快速運行。

結構

下圖是 TensorFlow Lite 的結構設計:

模塊如下:

TensorFlow Model: 儲存在硬碟上已經訓練好的 TensorFlow 模型

TensorFlow Lite Converter: 將模型轉換為 TensorFlow Lite 文件格式的程式。

TensorFlow Lite Model File: 基於 FlatBuffers 的模型文件格式,針對速度和大小進行了優化。

可以將 TensorFlow Lite Model File 部署到 Mobile App ,如上圖中所示:

Java API: 處於 Android App 中 C++ App 上,方便封裝。

C++ API: 加載 TensorFlow Lite Model File,調用解釋器(Interpreter)。

上面的這兩個庫在 Android 和 iOS 端都可用。

Interpreter:使用一組運算符來執行模型。運算符可以選擇,如果不含運算符,只有 70KB,加載所有的運算符之後為 300KB。比起需要 1.5 M (使用一組正規的操作符) 的 TensorFlow Mobile,能使容量大大減小。

在 Android 設備上,Interpreter 支援 Android 神經網路 API,可以用它進行硬體加速。如果沒有可用的加速器,則默認使用 CPU。

開發人員還可以使用 C++ API 來自定義 kernel。

模型

  • TensorFlow Lite 目前支援很多針對行動端訓練和優化好的模型。
  • MobileNet:能夠識別 1000 種不同對像類的視覺模型,為實現行動和嵌入式設備的高效執行而設計。
  • Inception v3:圖像識別模型,功能與 MobileNet 相似,它提供更高的精度,但相對來說更大。
  • Smart Reply: 設備對話模型,可以即時回覆聊天訊息,在 Android Wear 上有使用這一功能。
  • Inception v3 和 MobileNets 已經在 ImageNet 數據集上訓練了。大家可以利用遷移學習來輕鬆地對自己的圖像數據集進行再訓練。

關於 TensorFlow Mobile

正如大家知道的那樣,TensorFlow 可以透過 TensorFlow Mobile API 對模型進行行動和嵌入式部署。展望未來,TensorFlow Lite 應該被看作是 TensorFlow Mobile 的升級。隨著一步步的成熟,它將成為在行動和嵌入式設備上部署模型的推薦解決方案。

TensorFlow Lite 目前是預覽版,大家仍然可以使用 TensorFlow Mobile。

TensorFlow Lite 的功能有很多,目前仍處於緊鑼密鼓的開發階段。這次的發表中,使用受限平台,來保證一些最重要的常見模型的性能不受到影響。

我們計劃根據用戶的需要來考慮未來優先擴展的功能。我們的開發目標是簡化開發人員的體驗,並讓模型能部署到一系列行動和嵌入式設備上。

很高興開發者也在幫助 TensorFlow Lite 項目的順利進行。我們將會以與 TensorFlow 相同的熱情來支援和啟動 TensorFlow Lite 社群。歡迎大家來使用 TensorFlow Lite。

TensorFlow Lite 頁面

網址:http://tensorflow.org/mobile/tflite