Helium指令集

這里介紹的是Helium的匯編語(yǔ)言指令集，雖然大部分程序員不會(huì)直接使用這些指令，而是通過(guò)C語(yǔ)言或者高級(jí)語(yǔ)言編程實(shí)現(xiàn)，但是了解匯編語(yǔ)言指令集，可以有如下收獲：

在優(yōu)化C代碼時(shí)，為了確定其是否被充分地矢量化，能夠?qū)徱暰幾g器的輸出以及熟悉指令集是非常有幫助的。

當(dāng)調(diào)試不能正常工作的代碼時(shí)，通過(guò)閱讀反匯編代碼去理解每一行發(fā)生了什么，對(duì)于尋找代碼的問(wèn)題是非常有用的。

了解指令集可能有助于編寫(xiě)高效的代碼，甚至節(jié)省功耗，尤其是在使用原語(yǔ)函數(shù)的情況下。

Helium指令結(jié)構(gòu)和其他Cortex-M處理器中的VFP（浮點(diǎn)）指令結(jié)構(gòu)是相似的。

Helium指令格式如下：

Helium指令都是以字母V開(kāi)始的，然后跟著如下符號(hào)，符合中的{}是可選的，<>是必須出現(xiàn)的：

mod：指令修飾符，可能沒(méi)有，也可能是Q（saturating）飽和，H（halving）減半，D（doubling）加倍，R（rounding）四舍五入中的一個(gè)。

op：具體操作，例如ADD（相加），SUB（相減），CMP（比較）等。

shape：有些指令中，可以選擇性的指定L（long）或N（narrow），這是 “形態(tài)” 相關(guān)的修飾符。

- L：Long表示輸入元素在操作前會(huì)被擴(kuò)寬。1個(gè)8位的元素可能會(huì)被擴(kuò)寬為16位或32位，或者1個(gè)16位元素被擴(kuò)寬為32位。

- N：Narrow表示輸入元素在操作前會(huì)被壓縮。

extra：有些指令中的特定修飾符，可能是T（top），B（bottom），A（accumulate），X（exchange）或者V（across）中的一個(gè)。

cond：此處指定的條件僅適用于VPT（Predication）模塊。可能是T（Then）或者E（Else）。

.dt：數(shù)據(jù)類(lèi)型，可能是F（float）浮點(diǎn)，I（integer）整數(shù)，S（signed）有符號(hào)，U（unsigned）無(wú)符號(hào)。

dst：目標(biāo)寄存器，可以是通用寄存器（R）或者矢量寄存器（Q）。

src：源寄存器，可以是通用寄存器（R）或者矢量寄存器（Q）。

rot：旋轉(zhuǎn)，用于一些操作復(fù)數(shù)的指令。

下面給出一條指令示例展示：

VLDRW.U32 Q0, [R0]

該指令中的首字母是V，表示這是一條Helium（或是Neon，或者浮點(diǎn)）指令，LDR表示寄存器從內(nèi)存加載內(nèi)容，W表示按字大小操作，，，都為空，數(shù)據(jù)類(lèi)型是U32，無(wú)符號(hào)32位整數(shù)。加載的目標(biāo)是128位寄存器Q0（矢量寄存器），源是標(biāo)量寄存器R0指向的內(nèi)存地址。該指令表示將從R0存儲(chǔ)的地址中加載4個(gè)32位寬的數(shù)據(jù)到Q0寄存器中。

Helium指令分類(lèi)如下：

Helium編程方式

Helium編程方式目前來(lái)說(shuō)，一共4種。

矢量庫(kù)

自動(dòng)矢量化

原語(yǔ)函數(shù)（intrinsics）編程

匯編指令編程

矢量庫(kù)

目前，ARM CMSIS DSP和NN是已經(jīng)對(duì)Helium優(yōu)化好的Helium矢量庫(kù)。使用矢量庫(kù)來(lái)進(jìn)行Helium編程，是最簡(jiǎn)單的方法。

CMSIS DSP是數(shù)字信號(hào)處理函數(shù)庫(kù)，具有針對(duì)8位整數(shù)，16位整數(shù)，32位整數(shù)和32位浮點(diǎn)數(shù)的不同函數(shù)，提供了豐富的函數(shù)，包括基本數(shù)學(xué)函數(shù)，復(fù)數(shù)數(shù)學(xué)函數(shù)，濾波器函數(shù)，變換函數(shù)，矩陣操作函數(shù)，電機(jī)控制函數(shù)，插值函數(shù)，統(tǒng)計(jì)函數(shù)等。該庫(kù)包含了這些函數(shù)的Helium優(yōu)化版本，并不斷更新迭代中。

CMSIS NN是神經(jīng)網(wǎng)絡(luò)函數(shù)庫(kù)，以最小的內(nèi)存開(kāi)銷(xiāo)針對(duì)Cortex-M處理器優(yōu)化的軟件內(nèi)核，同樣地，這些函數(shù)也可以利用Helium得到最優(yōu)性能。

CMSIS矢量庫(kù)中的函數(shù)代碼有3個(gè)C預(yù)處理器定義來(lái)選擇Helium版本。

#define ARM_MATH_HELIUM
#define ARM_MATH_MVEI    //支持整型Helium
#define ARM_MATH_MVEF    //支持浮點(diǎn)型Helium

比如CMSIS DSP中的 arm_clip_f32函數(shù)，可以看到該函數(shù)已經(jīng)使用了Helium原語(yǔ)函數(shù)。

比如CMSIS NN中的arm_nn_lstm_update_cell_state_s16函數(shù)，可以看到該函數(shù)使用了Helium原語(yǔ)函數(shù)。

當(dāng)使用矢量庫(kù)的時(shí)候，不同編譯器中的MVE設(shè)置

Keil MDK 5（5.38以上版本）

在圖標(biāo)“Options for target”中選擇“Target”頁(yè)面中的“Vector Extensions”,通過(guò)下拉列表選擇

“Not Used”（不使用helium，即宏ARM_MATH_HELIUM沒(méi)有被定義，使用標(biāo)量相關(guān)函數(shù)）。

“Integer”（宏ARM_MATH_HELIUM和ARM_MATH_MVEI被定義，使用整型Helium）。

“Integer + Floating Point” （宏ARM_MATH_HELIUM，ARM_MATH_MVEI和ARM_MATH_MVEF被定義，使用整型和浮點(diǎn)型Helium）。

IAR EWARM（v9.40.1以上版本）

通過(guò)右鍵選擇項(xiàng)目名稱(chēng)后，在 “Options”中的“General Options”頁(yè)面下的“32-bit”中的“Advanced SIMD(NEON/HELIUM)”。

勾選（即選中，ARM_MATH_HELIUM，ARM_MATH_MVEI和ARM_MATH_MVEF被定義，使用整型和浮點(diǎn)型Helium）。

不勾選（即不選中），編譯的時(shí)候會(huì)報(bào)“MVE support not enable”錯(cuò)誤。

e2 studio

e2 studio中可以使用LLVM或者GCC工具鏈，在使用矢量庫(kù)的時(shí)候，不需要設(shè)置，默認(rèn)是啟用的。如果通過(guò)設(shè)置編譯參數(shù)來(lái)禁用，編譯的時(shí)候會(huì)報(bào)“MVE support not enable”錯(cuò)誤。

自動(dòng)矢量化

自動(dòng)矢量化就是編譯器在C/C++代碼中自動(dòng)檢測(cè)到可以使用Helium指令并執(zhí)行優(yōu)化的過(guò)程。優(yōu)化后的代碼在速度和尺寸方面可能與手工優(yōu)化的匯編代碼或包含原語(yǔ)函數(shù)的C代碼一樣高效，這只需要很少的時(shí)間去編寫(xiě)和調(diào)試代碼，而且無(wú)須對(duì)目標(biāo)微架構(gòu)有詳細(xì)了解。C代碼也更有可移植性。

如下面的代碼，這是一種很常見(jiàn)的普通寫(xiě)法，一個(gè)for循環(huán)里面做一些邏輯判斷處理。

點(diǎn)擊可查看大圖

通過(guò)使用自動(dòng)矢量化后的反匯編代碼如下，紅色框部分的代碼里面已經(jīng)出現(xiàn)了Helium的匯編指令。

自動(dòng)矢量化和編譯器的優(yōu)化等級(jí)設(shè)置有關(guān)，當(dāng)Arm Complier 6和LLVM編譯器的優(yōu)化等級(jí)為-O2或者更高時(shí)，自動(dòng)矢量化默認(rèn)使能，在MDK ArmComplier 6中可以使用“-fno-vectorize”選項(xiàng)可以禁止自動(dòng)矢量化。當(dāng)優(yōu)化等級(jí)為-O1時(shí)，自動(dòng)矢量化默認(rèn)禁止，使用“-fvectorize”選項(xiàng)可以使能自動(dòng)矢量化，當(dāng)優(yōu)化等級(jí)為-O0時(shí)，自動(dòng)矢量化總是被禁止。其他編譯器的行為可能不同，具體可以查閱對(duì)應(yīng)的文檔。

原語(yǔ)函數(shù)（intrinsics）編程

原語(yǔ)函數(shù)是允許利用Helium而不必直接編寫(xiě)匯編代碼的一組C/C++函數(shù)。ACLE文檔中包括Helium原語(yǔ)規(guī)范。目前最新的文檔為mve-2021Q4。原語(yǔ)函數(shù)的實(shí)現(xiàn)包含在arm_mve.h文件中。函數(shù)包含簡(jiǎn)短的匯編語(yǔ)言部分，它們被內(nèi)聯(lián)到調(diào)用的代碼中。

使用原語(yǔ)函數(shù)有如下優(yōu)點(diǎn)：

程序員能夠直接訪問(wèn)Helium指令集，這允許編寫(xiě)充分優(yōu)化的代碼，利用所有Helium特性。

C/C++可用于大多數(shù)代碼，只有當(dāng)需要優(yōu)化而矢量化C編譯器無(wú)法執(zhí)行優(yōu)化時(shí)，才會(huì)使用Helium原語(yǔ)。這就意味著只有在必要時(shí)才使用底層代碼。

相比于采用匯編語(yǔ)言編寫(xiě)的代碼，含有Helium原語(yǔ)的C和C++代碼可以移植到一個(gè)新的平臺(tái)，僅需要少量修改，甚至無(wú)須修改。

使用原語(yǔ)避免了很多與直接使用匯編語(yǔ)言編碼相關(guān)的難點(diǎn)。

原語(yǔ)函數(shù)中，Helium矢量數(shù)據(jù)類(lèi)型名字模式如下所示，這在“arm_mve.h”中有詳細(xì)定義和描述。

x_t

type：元素類(lèi)型，可能是int整形，uint無(wú)符號(hào)整形，float浮點(diǎn)。

size：元素大小，可能是8位，16位，32位。

number_of_lanes：通道總數(shù)?？梢允?6通道，8通道，或者4通道。

如：

uint8x16_t是一個(gè)描述16個(gè)無(wú)符號(hào)8位的矢量。

int16x8_t是一個(gè)描述8個(gè)16位的矢量。

float16x8_t是一個(gè)描述4個(gè)16位浮點(diǎn)數(shù)（半精度）的矢量。

float32x4_t是一個(gè)描述4個(gè)32位浮點(diǎn)數(shù)（單精度）的矢量。

注：Helium是128位寄存器，它的元素大小和通道總數(shù)相乘的結(jié)果只能是128，不能是64，也就是說(shuō)，不支持int8x8_t/uint8x8_t/int16x4_t/uint16x4_t/float16x4_t/float32x2_t數(shù)據(jù)類(lèi)型。這點(diǎn)和Neon是不同的。Neno可以支持64和128。

Helium矢量數(shù)組結(jié)構(gòu)體類(lèi)型如下：

xx_t

可以發(fā)現(xiàn)，矢量數(shù)組結(jié)構(gòu)體名字只比單個(gè)矢量數(shù)據(jù)類(lèi)型多了一個(gè)length_of_array。它表示一共有幾個(gè)helium寄存器組成，即helium寄存器的數(shù)量。在該結(jié)構(gòu)體中，包含一個(gè)名為val的元素，此結(jié)構(gòu)體類(lèi)型映射Helium加載和存儲(chǔ)操作訪問(wèn)的寄存器，Helium可以用一條指令加載/存儲(chǔ)多達(dá)4個(gè)寄存器。結(jié)構(gòu)定義示例如下：

struct int16x8x2_t

{

int16x8_t val[2];

};

此結(jié)構(gòu)類(lèi)型僅由加載、存儲(chǔ)、轉(zhuǎn)置、交織和去交織指令使用；要對(duì)實(shí)際數(shù)據(jù)執(zhí)行操作，請(qǐng)從各個(gè)寄存器中選擇元素。如：.val[0] 和.val[1]。

下圖代碼片段是使用原語(yǔ)函數(shù)進(jìn)行矢量相乘的例子。

原語(yǔ)編程里面還涉及原語(yǔ)預(yù)測(cè)，原語(yǔ)尾部處理等知識(shí)，本處不在展開(kāi)說(shuō)明，詳細(xì)信息可以訪問(wèn)arm官網(wǎng)查閱相關(guān)文檔了解和學(xué)習(xí)。

匯編語(yǔ)言編程

在匯編代碼中直接編寫(xiě)Helium指令是很沒(méi)有必要的，通常只會(huì)在特殊的場(chǎng)景下才會(huì)這樣做。即當(dāng)編程人員可以比編譯器更好地分配寄存器時(shí)，比如有太多重寫(xiě)變量和輸入輸出變量。

下圖所示為復(fù)數(shù)矢量點(diǎn)積的匯編語(yǔ)言代碼。