多級別堆棧不是問題！谷歌開源全新中介碼與編譯器框架 MLIR

雷鋒網 AI 科技評論按：為了更好解決 TensorFlow 用戶在使用不同種類的硬件（GPU、TPU、移動設備）時，由于多級別堆棧而導致的編譯器與運行時錯誤，谷歌近日開源了一個全新的中介碼與編譯器框架 MLIR。

在過去，若想解決多級別堆棧問題，則需要我們構建新的軟硬件堆棧生成器，這也意味著必須為每個新路徑重新構建優化與轉換傳遞。

TensorFlow 能夠以多種不同的方式運行，如：

• 將其發送至調用手寫運算內核的 TensorFlow 執行器

• 將圖轉化為 XLA 高級優化器 (XLA HLO) 表示，反之，這種表示亦可調用適合 CPU 或 GPU 的 LLVM 編輯器，或者繼續使用適合 TPU 的 XLA。（或者將二者結合！）

• 將圖轉化為 TensorRT、nGraph 或另一種適合特定硬件指令集的編譯器格式

• 將圖轉化為 TensorFlow Lite 格式，然后在 TensorFlow Lite 運行時內部執行此圖，或者通過 Android 神經網絡 API (NNAPI) 或相關技術將其進一步轉化，以在 GPU 或 DSP 上運行

谷歌的 MLIR（或稱為多級別中介碼）是一種表示格式和編譯器實用工具庫，介于模型表示和低級編譯器/執行器（二者皆可生成硬件特定代碼）之間，在生產質量組件的支持下，能夠對優化編譯器設計與實現進行全新探索。據了解，MLIR 深受 LLVM 的影響，并不折不扣地重用其許多優秀理念，比如擁有靈活的類型系統，可在同一編譯單元中表示、分析和轉換結合多層抽象的圖等——這些抽象包括 TensorFlow 運算、嵌套的多面循環區域乃至 LLVM 指令和固定的硬件操作及類型。

MLIR 沒有眾所周知的固定或內置的操作列表（無 “內聯函數”）。方言可完全定義自定義類型，即 MLIR 如何對 LLVM IR 類型系統（擁有一流匯總）、域抽象（對量化類型等經機器學習 (ML) 優化的加速器有著重要意義），乃至未來的 Swift 或 Clang 類型系統（圍繞 Swift 或 Clang 聲明節點而構建）進行建模。

另外值得一提的是，雖然 MLIR 充當 ML 的編譯器，但它同樣支持在編譯器內部使用機器學習技術。MLIR 的擴展性有助于探索代碼降階策略，并在抽象之間執行逐步降階。

具體開源鏈接：

GitHub 代碼庫

https://github.com/tensorflow/mlir

教程

https://github.com/tensorflow/mlir/blob/master/g3doc/Tutorials/Toy/Ch-1.md

演講稿

https://drive.google.com/file/d/1hUeAJXcAXwz82RXA5VtO5ZoH8cVQhrOK/view

 

via https://medium.com/tensorflow/mlir-a-new-intermediate-representation-and-compiler-framework-beba999ed18d

雷鋒網 AI 科技評論雷鋒網

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。