HLS最全知識庫
副標題-FPGA高層次綜合HLS(二)-Vitis HLS知識庫
高層次綜合(High-level Synthesis)簡稱HLS,指的是將高層次語言描述的邏輯結(jié)構(gòu),自動轉(zhuǎn)換成低抽象級語言描述的電路模型的過程。
對于AMD Xilinx而言,Vivado 2019.1之前(包括),HLS工具叫Vivado HLS,之后為了統(tǒng)一將HLS集成到Vitis里了,集成之后增加了一些功能,同時將這部分開源出來了。Vitis HLS是Vitis AI重要組成部分,所以我們將重點介紹Vitis HLS。
官方指南:
https://docs.xilinx.com/r/_lSn47LKK31fyYQ_PRDoIQ/root
重要術(shù)語
LUT 或 SICE
LUT 或 SICE是構(gòu)成了 FPGA 的區(qū)域。它的數(shù)量有限,當它用完時,意味著您的設計太大了!
BRAM 或 Block RAM
FPGA中的內(nèi)存。在 Z-7010 FPGA上,有 120 個,每個都是 2KiB(實際上是 18 kb)。
Latency延遲
- 設計產(chǎn)生結(jié)果所需的時鐘周期數(shù)。
- 循環(huán)的延遲是一次迭代所需的時鐘周期數(shù)。
Initiation Interval (or II, or Interval間隔)
- 在接受新數(shù)據(jù)之前必須執(zhí)行的時鐘周期數(shù)。
這與延遲不同!如果函數(shù)是流水線的,許多數(shù)據(jù)項會同時流過它。延遲是一個數(shù)據(jù)項被推入后彈出的時間,而時間間隔決定了數(shù)據(jù)可以被推入的速率。
- 循環(huán)的間隔是可以開始循環(huán)迭代的最大速率,以時鐘周期為單位。
上圖中,左邊是函數(shù)右邊是循環(huán),左邊的時間間隔(接收新數(shù)據(jù)之前)是3個時鐘周期,右邊循環(huán)的間隔則是一個時鐘周期;對于左邊的延遲是這個函數(shù)產(chǎn)生結(jié)果的時鐘周期數(shù),是func_C運行完畢產(chǎn)生的周期數(shù),為5個時鐘周期,右邊循環(huán)的延遲是一次迭代所需的時鐘數(shù),是4個時鐘周期。
上面的概念非常重要,要不然下面的一些指令作用也看不懂~
重要的指令
這是在實際使用過程中重要的指令列表(不是全部)。
指令 | 適用范圍 | 描述 |
---|---|---|
PIPELINE 流水線指令 | Functions, loops | 簡單解釋就是使輸入更頻繁地傳遞給函數(shù)或循環(huán)。流水線后的函數(shù)或循環(huán)可以每 N 個時鐘周期處理一次新輸入,其中 N 是啟動間隔(Initiation Interval)。'II' 默認為 1,是 HLS 應針對的啟動間隔(即嘗試將新數(shù)據(jù)項輸入管道的速度應該多快)。 |
UNROLL | loops | 創(chuàng)建循環(huán)的因子副本,讓其并行執(zhí)行(如果滿足數(shù)據(jù)流依賴性)。但是會浪費資源(以資源換取速度)。盡可能將程序展開以提高速度。 |
ALLOCATION | Various | 限制某事物的實例數(shù)。例如,如果只想在另一個函數(shù)toplevel中獲得函數(shù)foo的三個副本,請使用位置toplevel、限制設置為3、實例設置為foo、類型設置為“function”的分配。這也適用于特定的運算。 |
ARRAY_MAP | Arrays | 將多個較小的陣列映射成一個較大的陣列,以犧牲訪問時間為代價來節(jié)省訪問邏輯或 BRAM。'instance' 可以設置為任何未使用的名稱。ARRAY_MAP 對同一個實例使用多個 來告訴 HLS 創(chuàng)建一個名為“instance”的新數(shù)組,其中包含所有較小的數(shù)組。保留“偏移”未設置。請注意,有些人在將三個或更多初始化數(shù)組映射到單個 RAM 時遇到了此指令引起的錯誤。如果在仿真和實現(xiàn)的設計之間遇到行為差異,請嘗試刪除此指令。 |
ARRAY_PARTITION | Arrays | 將一個大數(shù)組拆分為多個較小的數(shù)組(與ARRAY_MAP相反)。這對于增加并行訪問的可能性很有用。如果“type”是“block”,則源數(shù)組將分成block。如果它是“cyclic”,那么元素將被交錯到目標數(shù)組中。在這兩種情況下,“factor因子”都是要創(chuàng)建的較小數(shù)組的數(shù)量。如果 'type' 是 'complete' 則忽略 'factor' 并且陣列被完全分割成組件寄存器,因此不使用任何 Block RAM。 |
DATAFLOW | Functions | 見下文 |
INLINE | Functions | 該指令不是將函數(shù)視為單個硬件單元,而是在每次調(diào)用 HLS 時將函數(shù)內(nèi)聯(lián)。這是以硬件為代價增加了潛在的并行性。如果 'recursive' 為真,則內(nèi)聯(lián)函數(shù)調(diào)用的所有函數(shù)也被視為標有 INLINE。 |
INTERFACE | Function,parameters | 告訴 HLS 如何在函數(shù)之間傳遞參數(shù)。這在頂層函數(shù)中至關(guān)重要,因為它定義了設計的引腳排列。在 EMBS 中,我們有一個應該堅持使用的模板(上圖)。 |
LATENCY | Functions, loops | HLS 通常會嘗試在綜合時實現(xiàn)最小延遲。如果使用此指令指定更大的最小延遲,HLS 將“pad out”函數(shù)或循環(huán)并減慢一切。這有助于資源共享(減少資源),并且對于創(chuàng)建延遲很有用。如果 HLS 無法達到要求的延遲,它將發(fā)出警告。 |
LOOP_FLATTEN | loops | 將嵌套循環(huán)展平為單個循環(huán)。應用于 最里面的 循環(huán)。如果成功,將生成更快的硬件代碼。 |
LOOP_TRIPCOUNT | loops | 如果循環(huán)具有可變的循環(huán)邊界,HLS 將不知道它需要多少次迭代。這意味著它無法為設計延遲提供明確的值。這允許我們?yōu)樵O計指定循環(huán)的最小、平均和最大行程計數(shù)(迭代次數(shù))。這只會影響報告,不會影響硬件代碼生成。 |
RESOURCE | Various | 這用于指定應使用特定硬件資源來實現(xiàn)源代碼元素。指定是否應使用 BRAM 或 LUT 實現(xiàn)ARRAY。見下文詳解。 |
任意精度類型
可以在 HLS 中使用普通的 C 類型(int、 char等)變量。但是,設計中的常用的寄存器并不完全需要 4、8 或 16 位寬,那么可以使用任意精度類型來準確定義需要多寬的數(shù)據(jù)類型,而不是接受這種低效率的通用定義。
下面展示了如何使用 C 和 C++ 風格的任意精度類型。我們建議使用 C++,除非有特定的理由不這樣做。
在 C 中:
包含
uint5 x | 無符號整數(shù),5 位寬 |
---|---|
int19 x | 有符號整數(shù),19 位寬 |
在 C++ 中:
包含
ap_uint<5> x | 無符號整數(shù),5 位寬 |
---|---|
ap_int<19> x | 有符號整數(shù),19 位寬 |
按照上面的設置應該能夠正常打印任意精度類型,但是如果在調(diào)試過程中得到奇怪的值,請先使用printf調(diào)用to_int():
ap_uint<23>myAP;
printf("%d
",myAP.to_int());
復位行為
在 HLS 中,所有靜態(tài)和全局變量都被初始化為零(如果給定了初始化值,則初始化為其他值)。這包括 RAM,其中每個元素都被清除為零。然而,這種初始化只發(fā)生在 FPGA 首次編程時。任何后續(xù)處理器復位都不會觸發(fā)初始化過程。
如果需要清除設備的內(nèi)部狀態(tài),那么應該包含某種復位協(xié)議(根據(jù)復位狀態(tài)處理所需要的程序)。
AXI 從接口和 AXI 主接口
可以在 HLS 組件中使用兩個接口,即 AXI Slave 和 AXI Master。
-
AXI Slave:ARM 內(nèi)核使用此接口來啟動和停止 HLS 組件。他們還可以使用此接口來讀取和寫入相對少量的用戶定義值。
-
AXI Master:如果需要更大量的共享數(shù)據(jù),HLS 組件可以使用 AXI Master 接口啟動事務以從主系統(tǒng)內(nèi)存讀取和寫入數(shù)據(jù)。
可以通過toplevel在 HLS 組件中為函數(shù)指定參數(shù)并將指令附加到這些參數(shù)來定義所需的接口。下面顯示了一個只有從接口的組件:
帶有AXI Slave的 HLS 組件
uint32toplevel(uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}
而下面是一個同時具有從接口和主接口的組件:
具有從屬和主接口的 HLS 組件
uint32toplevel(uint32*ram,uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}
請注意,可以為從接口添加和刪除參數(shù),并更改它們的數(shù)據(jù)類型,只需記住也要更新關(guān)聯(lián)#pragmaS。HLS 將相應地更新組件的驅(qū)動程序。
PS:主數(shù)據(jù)類型:由于 AXI 主接口會連接到 32 位寬的 RAM,因此在指定 AXI 主接口時應始終使用 32 位數(shù)據(jù)類型。
一旦決定了的接口,應該能夠依靠 Vivado 自動化連線來連接一切。
請注意,返回端口的 pragma 很重要!
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
//端口=返回包=AXILiteS寄存器
即使不使用函數(shù)的返回值,此 pragma 也會告訴 HLS 將 start、stop、done 和 reset 信號捆綁到 AXI Slave 接口中的控制寄存器中。因此,這將生成相應的驅(qū)動程序函數(shù)來啟動和停止生成的 IP 內(nèi)核。如果不包含此 pragma,則 HLS 將為這些信號生成簡單的連線,并且 IP 內(nèi)核將無法直接被 ARM 內(nèi)核控制。
多種類型的 AXI Master
Vitis HLS在從同一主AXI端口復制值并將其解釋為不同類型時非常挑剔。
例如,以下 memcpy 可能會導致“Stored value type does not match pointer operand type! (存儲值類型與指針操作數(shù)類型不匹配!)” ,嘗試將 RAM 視為uint32 和float類型時,綜合過程中將會產(chǎn)生 LLVM 錯誤:
voidtoplevel(uint32*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];
memcpy(u_values,ram,40);
memcpy(f_values,ram+10,40);
}
為了正確強制從 RAM 中復制數(shù)據(jù)的類型信息,可以使用union,如下所示:
typedefunion{
uint32u;
floatf;
}ram_t;
voidtoplevel(ram_t*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];
for(inti=0;ifor(inti=0;i
此外,只要循環(huán)邊界從零開始(并且是固定的),HLS應該足夠聰明,將其視為類似于memcpy的突發(fā)傳輸-在綜合過程中查找“推斷MAXI端口上長度為X的總線突發(fā)讀取”來證實這一點。
強制和阻止使用 Block RAM
HLS 會自動將大部分ARRAY轉(zhuǎn)換為 BRAM。這通常很有用,因為寄存器ARRAY在 LUT(FPGA 空間)方面非常昂貴。但是,F(xiàn)PGA 的 BRAM 數(shù)量有限。BRAM 也只有 2 個訪問端口。這意味著在任何時候最多有兩個并行進程可以訪問 RAM。這可能會限制設計的并行性潛力。
如果HLS使用的是不希望使用的BRAM,則將類型設置為COMPLETE且維度設置為1的指令array_PARTITION應用于數(shù)組。這將迫使它從寄存器中生成數(shù)組。這會占用大量的FPGA空間(LUT),所以要節(jié)約!
要強制 HLS 使用 BRAM,請將指令BIND_STORAGE集應用到 RAM_2P。(添加時按下幫助按鈕可查看所有各種選項的說明)。
該 ARRAY_MAP 指令(見上文)可以通過自動將多個較小的數(shù)組放入一個較大的數(shù)組來幫助節(jié)省 Block RAM。
當更改 HLS 時
當更改 HLS 代碼時,請執(zhí)行以下步驟以確保bitfile已更新,方便進行正確地測試。
-
1、重新運行綜合。
-
2、重新導出 IP 核。
-
3、在 Vivado 中,它應該已經(jīng)注意到了變化,并且會出現(xiàn)一條消息說“IP Catalog is out-of-date”。a、如果沒有,請單擊 IP Status,然后單擊重新運行報告
b、單擊刷新 IP 目錄
c、在 IP Status面板中,應選擇 toplevel IP。單擊 Upgrade 選項。
-
4、在“Generate Output Products”對話框中,單擊“Generate”。
-
5、單擊生成比特流。
-
6、導出硬件到 Vitis。
-
7、在 Vitis 中重新編程 FPGA 并運行軟件。
現(xiàn)在應該明白了為什么測試和仿真如此重要了!
循環(huán)優(yōu)化
在 HLS 中,可以將指令應用于循環(huán)以指示它展開或流水線。考慮以下循環(huán):
myloop:for(inti=0;i
默認情況下,HLS 將按順序執(zhí)行循環(huán)的每次迭代。它的執(zhí)行將如下所示:
如果循環(huán)的每次迭代需要 10 個時鐘周期,那么循環(huán)總共需要 30 個周期才能完成。
如果我們給這個循環(huán) PIPELINE 指令,那么 HLS 將嘗試在元素 0 完成之前開始計算元素 1,從而創(chuàng)建一個PIPELINE。這意味著循環(huán)的整體執(zhí)行時間會更短,但代價是更復雜的控制邏輯和更多的寄存器來存儲中間數(shù)據(jù)。循環(huán)如下所示:
只有在沒有阻止此優(yōu)化的依賴項時,它才能執(zhí)行此操作。考慮以下代碼:
intlastVal;
for(inti=0;i
在此示例中,循環(huán)被迫按順序執(zhí)行,因為在下一次循環(huán)迭代開始時需要在循環(huán)體末尾使用計算出的值。PIPELINE 仍然會試圖加快速度,但不會大幅加快。
最后,如果我們給循環(huán) UNROLL 指令,那么 HLS 將嘗試并行執(zhí)行循環(huán)的迭代。這需要更多的硬件,但速度非常快。在我們的示例中,整個循環(huán)只需要 10 個周期。
這要求循環(huán)的元素之間沒有數(shù)據(jù)依賴關(guān)系。例如,如果 doSomething() 保留一個執(zhí)行次數(shù)的全局計數(shù)器,則此依賴項將阻止 UNROLL 指令工作。
請注意,UNROLL默認情況下會嘗試展開循環(huán)的所有迭代。這可能會導致非常大的設計!為了使事情更合理,可以設置UNROLL的FACTOR參數(shù)來告訴工具要創(chuàng)建多少副本。
應用UNROLL后,最好在分析視圖中查看它是否實際應用。成功展開的設計在分析視圖中將非常“垂直”,表示同一列中的操作同時發(fā)生。如果視圖仍然非常“水平”且有很多列,那么很可能是數(shù)據(jù)依賴項阻止了展開。可以嘗試通過單擊操作來確定是什么阻止了展開。該工具將繪制箭頭以顯示輸入的內(nèi)容和輸出的內(nèi)容。請記住,BlockRAM 一次只能進行兩次訪問,因此,如果有一個大型ARRAY,而這些工具是從 BlockRAM 制作的,則展開或流水線操作最多只能創(chuàng)建 2 個副本。可以告訴工具不要使用帶有ARRAY_PARTITION指令的塊RAM。這可以快得多,但要使用更多的硬件資源。
數(shù)據(jù)流優(yōu)化
如果沒有使用限制資源的指令(例如 ALLOCATION 指令),HLS 會尋求最小化延遲并提高并發(fā)性。但是數(shù)據(jù)依賴性可以限制這一點。例如,訪問數(shù)組的函數(shù)或循環(huán)必須在完成之前完成對數(shù)組的所有讀/寫訪問,這就阻止了下一個消耗數(shù)據(jù)的函數(shù)或循環(huán)啟動。
函數(shù)或循環(huán)中的操作可能會 在前一個函數(shù)或循環(huán)完成其所有操作之前開始操作。
HLS指定數(shù)據(jù)流優(yōu)化時:
-
分析順序函數(shù)或循環(huán)之間的數(shù)據(jù)流。
這允許函數(shù)或循環(huán)并行運行,從而減少延遲并提高 RTL 設計的吞吐量,但以增加硬件資源為代價。嘗試一下DATAFLOW ,看看它是否對設計有幫助。
找不到 'crt1.o' 錯誤
當試圖在實驗室硬件以外的機器上運行測試時,可能會收到一個錯誤,抱怨它找不到“crt1.o”。如果是這樣,就需要為項目設置自定義鏈接器標志。
單擊頂部菜單中的“Project”,然后單擊Project Settings。在此框中,單擊左側(cè)的“Simulation”,然后將以下內(nèi)容粘貼到“Linker Flags”框中:
-B"/usr/lib/x86_64-linux-gnu/"
我的循環(huán)有???latency估計!
有時,HLS 綜合報告將包含?而不是給出最小和最大延遲的值。這是因為設計中至少有一個循環(huán)是數(shù)據(jù)相關(guān)的,即它循環(huán)的次數(shù)取決于 HLS 無法知道的數(shù)據(jù)值。
例如,下面的代碼:
當綜合在綜合報告中給出以下內(nèi)容:
如果我們檢查代碼,它將來自ram的元素相加,但要相加的元素的確切數(shù)量來自用戶,作為arg1參數(shù)輸入。因此,HLS無法提前知道該硬件執(zhí)行需要多長時間,因為每次運行時它都是可變的。這就是上面我們說的運行時依賴于數(shù)據(jù)。生成的硬件將正常工作,我們只是無法預測運行需要多長時間。查看循環(huán)的細節(jié),HLS仍然可以告訴我們循環(huán)的延遲是2,換句話說,它不知道它將迭代多少次,但每次迭代將花費2個時鐘周期。
一般來說,應該盡量避免這種情況。如果 HLS 無法預測最壞的情況,那么它會過于“謹慎”,并且它可能會制造比我們需要的更大的硬件。此外,不能展開具有可變循環(huán)邊界的循環(huán)。
一些算法從根本上是依賴于數(shù)據(jù)的,如果這種情況無法避免,那么可以通過將LOOP_TRIPCOUNT指令添加到循環(huán)中來告訴 HLS ,假設循環(huán)將進行給定次數(shù)的迭代,但這僅用于報告目的。生成的硬件將完全相同,但HLS將在循環(huán)迭代該次數(shù)的假設下生成延遲數(shù)。這意味著延遲數(shù)字不“正確”,但這仍然有助于了解其他優(yōu)化是否具有總體積極效果。
定點類型
當需要使用小數(shù)運算但又不想支付使用浮點的大量硬件成本時,定點類型很有用。Vitis HLS 用戶指南(https://www.xilinx.com/support/documentation/sw_manuals/xilinx2020_2/ug1399-vitis-hls.pdf)中詳細描述了定點類型,下面是一個簡短示例:
定點示例
#include
#include
ap_fixed<15,?5>a=3.45;
ap_fixed<15,?5>b=9.645;
ap_fixed<20,?6>c=a/b*2;
std::cout<ifmoreaccuracyisrequired.
C標準數(shù)學函數(shù)(在math.h中)僅針對浮點實現(xiàn),但Xilinx在hls_math.h中提供了某些函數(shù)的定點實現(xiàn)。在hls::命名空間下;例如:hls::sqrt()、hls::cos()和hls::sin()。
此外,以下賽靈思示例代碼顯示了另一種定點平方根實現(xiàn),在某些情況下可能更有效。
fxp_sqrt.h
#ifndef__FXP_SQRT_H__
#define__FXP_SQRT_H__
#include
#include
usingnamespacestd;
/*
*Providesafixedpointimplementationofsqrt()
*Mustbecalledwithunsignedfixedpointnumberssoconvertbeforecalling,follows:
*ap_ufixed<32,?20>in=input_number;
*ap_ufixed<32,?20>out;
*fxp_sqrt(out,in);
*/
template
voidfxp_sqrt(ap_ufixed&result,ap_ufixed&in_val)
{
enum{QW=(IW1+1)/2+(W2-IW2)+1};//derivemaxrootwidth
enum{SCALE=(W2-W1)-(IW2-(IW1+1)/2)};//scale(shift)toadjinitialremainervalue
enum{ROOT_PREC=QW-(IW1%2)};
assert((IW1+1)/2<=?IW2);?//?Check?that?output?format?can?accommodate?full?result
???ap_uintq=0;//partialsqrt
ap_uintq_star=0;//diminishedpartialsqrt
ap_ints;//scaledremainderinitializedtoextractedinputbits
if(SCALE>=0)
s=in_val.range(W1-1,0)<else
s=((in_val.range(W1-1,0)>>(0-(SCALE+1)))+1)>>1;
//Non-restoringsquare-rootalgorithm
for(inti=0;i<=?ROOT_PREC;?i++)?{
??????if(s>=0){
s=2*s-(((ap_int(q)<else{
s=2*s+(((ap_int(q_star)<"extraiteration"method
if(s>0)
q=q+1;
//Truncateexcessbitandassigntooutputformat
result.range(W2-1,0)=ap_uint(q>>1);
}
#endif
總結(jié)
這是《FPGA高層次綜合HLS》系列教程第二篇,后面會按照專題繼續(xù)更新,文章有什么問題,歡迎大家批評指正~感謝大家支持。
審核編輯 :李倩
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
FPGA
+關(guān)注
關(guān)注
1630
文章
21759
瀏覽量
604338
-
HLS
+關(guān)注
關(guān)注
1
文章
130
瀏覽量
24145
原文標題:總結(jié)
文章出處:【微信號:Open_FPGA,微信公眾號:OpenFPGA】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
騰訊ima升級知識庫功能,上線小程序?qū)崿F(xiàn)共享與便捷問答
近日,騰訊旗下的AI智能工作臺ima.copilot(簡稱ima)迎來了知識庫功能的重大升級。此次升級不僅增加了“共享知識庫”的新能力,還正式上線了“ima知識庫”小程序,為用戶帶來了更加便捷和高效
華為聯(lián)合中圖科信打造“小水庫”智能知識庫
在當前水利行業(yè)中,水利部各業(yè)務處室根據(jù)自身職能需要,保存了大量的歷史業(yè)務數(shù)據(jù)。這些數(shù)據(jù)涵蓋工程規(guī)劃、運行管理、調(diào)度方案等,形式包括PDF影印本、Word文檔、Excel表格等,記錄了豐富的專業(yè)知識與實踐經(jīng)驗。
部署多功能集成的協(xié)作知識庫 AFFiNE
一、Flexus 云服務器 X 實例介紹 云服務器是一種高效便捷的計算資源服務。它可隨時根據(jù)需求進行彈性擴展,具有高可靠性和穩(wěn)定性。無需擔心硬件維護,輕松應對高并發(fā)訪問。無論是企業(yè)建站、開發(fā)應用還是數(shù)據(jù)存儲,云服務器都能提供強大支持,助力你的業(yè)務在云端飛速發(fā)展。 華為云下一代云服務器 Flexus X 實例煥新上線,新產(chǎn)品提供與華為云旗艦級云服務器產(chǎn)品相同的單 AZ 99.975%可用性,跨 AZ 99.995%可用性,階梯式定價、動態(tài)畫像并搭配 AS,實現(xiàn)資
利智方:驅(qū)動企業(yè)知識管理與AI創(chuàng)新加速的平臺
利智方致力于深度整合企業(yè)知識資產(chǎn),全面打通知識生命周期的各個環(huán)節(jié)。通過構(gòu)建強大的知識庫和精準的知識圖譜,支持快速定制和部署各類AI應用,為企業(yè)創(chuàng)新發(fā)展提供堅實的技術(shù)支撐。可多維度提升企
直播預告 大模型 + 知識庫(RAG):如何使能行業(yè)數(shù)智化?
。最近,有小伙伴留言稱工作中常遇到知識管理問題: 知識管理雜亂無章、查找費時費力,而且信息孤島嚴重、知識難以共享,團隊成員總是重復勞動 ;希望能安排一場直播介紹如何通過智能化手段解決知識
從零開始訓練一個大語言模型需要投資多少錢?
關(guān)于訓練技巧和模型評估的文章,但很少有直接告訴你如何估算訓練時間和成本的。前面分享了一些關(guān)于大模型/本地知識庫的安裝部署方法,無需編寫代碼,即可使用 Ollama+AnythingLLM搭建企業(yè)私有知識庫 ,或者, 三步完成Llama3.2在算力魔方的INT4量化和部
騰訊云手動下發(fā)指令到設備_云端與設備聯(lián)調(diào)方案
即可 本文章源自奇跡物聯(lián)開源的物聯(lián)網(wǎng)應用知識庫Cellular IoT Wiki,更多技術(shù)干貨歡迎關(guān)注收藏Wiki: Cellular IoT Wiki 知識庫 (https
【實操文檔】在智能硬件的大模型語音交互流程中接入RAG知識庫
非常明顯的短板。盡管這些模型在理解和生成自然語言方面有極高的性能,但它們在處理專業(yè)領(lǐng)域的問答時,卻往往不能給出明確或者準確的回答。
這時就需要接一個專有知識庫來滿足產(chǎn)品專有和專業(yè)知識的回復需求,理論
發(fā)表于 09-29 17:12
優(yōu)化 FPGA HLS 設計
優(yōu)化 FPGA HLS 設計
用工具用 C 生成 RTL 的代碼基本不可讀。以下是如何在不更改任何 RTL 的情況下提高設計性能。
介紹
高級設計能夠以簡潔的方式捕獲設計,從而
發(fā)表于 08-16 19:56
一種在HLS中插入HDL代碼的方式
很多人都比較反感用C/C++開發(fā)(HLS)FPGA,大家第一拒絕的理由就是耗費資源太多。但是HLS也有自己的優(yōu)點,除了快速構(gòu)建算法外,還有一個就是接口的生成,尤其對于AXI類接口,按照標準語法就可以很方便地生成相關(guān)接口。
如何手擼一個自有知識庫的RAG系統(tǒng)
用于自然語言處理任務,如文本生成、問答系統(tǒng)等。 我們通過一下幾個步驟來完成一個基于京東云官網(wǎng)文檔的RAG系統(tǒng) 數(shù)據(jù)收集 建立知識庫 向量檢索 提示詞與模型 數(shù)據(jù)收集 數(shù)據(jù)的收集再整個RAG實施過程中無疑是最耗人工的,涉及到收集、清洗、格式化、切分等過程。這里我們使用京東云的官方文檔作為
在Windows 10上創(chuàng)建并運行AMD Vitis?視覺庫示例
本篇文章將演示創(chuàng)建一個使用 AMD Vitis? 視覺庫的 Vitis HLS 組件的全過程。此處使用的是 Vitis Unified IDE。如果您使用的是舊版 AMD Vitis Software Platform,大多數(shù)步驟相同。
OpenAI推出Vision模型版GPT-4 Turbo,融合文本與圖像理解
據(jù)悉,此模型沿用GPT-4 Turbo系列特有的12.8萬token窗口規(guī)模及截至2023年12月的知識庫架構(gòu),其創(chuàng)新亮點則是強大的視覺理解功能。
英特爾集成顯卡+ChatGLM3大語言模型的企業(yè)本地AI知識庫部署
在當今的企業(yè)環(huán)境中,信息的快速獲取和處理對于企業(yè)的成功至關(guān)重要。為了滿足這一需求,我們可以將RAG技術(shù)與企業(yè)本地知識庫相結(jié)合,以提供實時的、自動生成的信息處理和決策支持。
智能制造的六大核心驅(qū)動力
通過運用智能化的設計工具和先進的設計信息化系統(tǒng)(如CAX、網(wǎng)絡化協(xié)同設計、設計知識庫等),企業(yè)產(chǎn)品研發(fā)設計的各個環(huán)節(jié)能夠得到智能化的提升和優(yōu)化。
發(fā)表于 01-30 10:04
?652次閱讀
評論