1 引言
目前地平線浮點轉換工具鏈需要依據 yaml 配置文件實現模型轉換,而某些參數如果配置有誤將會導致最終模型的性能/精度不理想,甚至直接轉換失敗,本文將針對 yaml 文件中的相關配置項進行說明,作為工具鏈文檔的額外補充。
Note:隨著工具鏈版本迭代,yaml 參數可能會有細微調整,本文以 v1.9.4 版本 MobileNet-v1為例進行說明。
2 概述
整個 yaml 文件包含 4 個必選參數組(model_parameters、input_parameters、calibration_parameters、compiler_parameters)和 1 個可選參數組(custom_op),每個參數組下也區分必選和可選參數(可選參數默認隱藏),具體要求和填寫方式請參考工具鏈文檔。其中以下為幾個填寫注意點:
- 當模型為多輸入模型時, 請將可選參數 input_name, input_shape顯式寫出, 以免造成參數對應順序上的錯誤;
- 當 input_type_rt 配置為 nv12 時,模型H/W維度不支持奇數輸入大小,例如不支持 1x255x255x3。
3 參數詳解
本小節針對各部分參數進行分類說明,主要包括 性能影響參數、精度影響參數、自定義算子參數 三類。關于參數的具體描述或取值范圍,可參考對應的工具鏈文檔。
3.1 性能影響參數
關于配置文件中與性能相關參數總結(包含未在示例中暴露的高階參數)如下表所示:
3.2 精度影響參數
關于配置文件中與精度相關參數總結(包含未暴露的參數)如下表所示:
3.3 自定義算子參數
此部分參數針對您有自定義算子行為的需求進行配置,目前我們已開放部分CPU算子自定義,更多關于如何自定義算子請參考文章自定義算子這一小節,相關參數配置說明如下:
本文轉載自地平線開發者社區:https://developer.horizon.ai
原作者:顏值即正義
-
開發工具鏈
+關注
關注
0文章
13瀏覽量
1592 -
YAML
+關注
關注
0文章
21瀏覽量
2332
發布評論請先 登錄
相關推薦
評論