歡迎您光臨本站 註冊首頁

谷歌開源更快、更高效的 TensorFlow 執行時 TFRT

←手機掃碼閱讀     admin @ 2020-04-30 , reply:0

TensorFlow 官方部落格宣佈開源新的執行時 TFRT,該執行時提供了統一的、可擴充套件的基礎結構層,並在各類硬體上均具有高效能。

TFRT 產品經理 Eric Johnson 表示,TFRT 將取代現有的 TensorFlow 執行時。原有的 TensorFlow 執行時最初是為圖形執行和訓練模型的工作負載而構建的。與之相比,新的執行時將急切的執行需求放在第一位,同時特別強調架構的可擴充套件性和模組化。

它能夠很好地滿足開發複雜模型時尋求更快的迭代時間的開發者需求、在訓練和服務生產模型時改進效能的需求,以及希望以模組化方式將邊緣和資料中心裝置整合到 TensorFlow 中的硬體製造商需求。

簡單來講,TFRT 可以減少開發、驗證和部署企業級模型所需的時間。

TFRT 利用了 eager 和圖形執行的通用抽象,為了獲得更好的效能,其圖執行器支援併發執行操作和非同步 API 呼叫。在效能測試中,與 TensorFlow 當前的執行時相比,TFRT 將經過訓練的 ResNet-50 模型(一種流行的影象識別演算法)在圖形卡上的推理時間縮短了 28%。

TFRT 仍處在早期開發階段,它已經與 TensorFlow 整合,最終將成為其預設執行時。

關於 TFRT 的更多資訊,可檢視 TensorFlow 官方部落格:https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html


[admin ]

來源:OsChina
連結:https://www.oschina.net/news/115288/google-open-sources-tfrt
谷歌開源更快、更高效的 TensorFlow 執行時 TFRT已經有211次圍觀

http://coctec.com/news/all/show-post-232241.html