ChatGPT需要多少算力支持?
據(jù)中信建投研報(bào)數(shù)據(jù),此前用于AI訓(xùn)練的算力增長(zhǎng)符合摩爾定律,大約每20個(gè)月翻一番;深度學(xué)習(xí)的出現(xiàn)加速了性能的擴(kuò)展,用于AI訓(xùn)練的算力大約每6個(gè)月翻一番;而目前大規(guī)模模型出現(xiàn),其訓(xùn)練算力是原來(lái)的10到100倍。
“算力、算法、數(shù)據(jù)作為人工智能的三要素,在數(shù)字經(jīng)濟(jì)發(fā)展、產(chǎn)業(yè)智能化升級(jí)的進(jìn)程中發(fā)揮巨大作用,數(shù)據(jù)可以看作生產(chǎn)資料,算法代表新的生產(chǎn)關(guān)系,算力則是新型生產(chǎn)力支撐著算法和數(shù)據(jù),算力水平?jīng)Q定數(shù)據(jù)處理能力的強(qiáng)弱。在AI模型訓(xùn)練和推理運(yùn)算過(guò)程中需要強(qiáng)大的算力支撐,隨著訓(xùn)練強(qiáng)度和運(yùn)算復(fù)雜程度的增加,算力精度的要求也在逐漸提高。”賽迪顧問(wèn)人工智能產(chǎn)業(yè)研究中心常務(wù)副總經(jīng)理鄒德寶稱。
根據(jù)國(guó)家數(shù)據(jù)資源調(diào)查報(bào)告,2021年全球數(shù)據(jù)總產(chǎn)量67ZB,近三年平均增速超過(guò)26%。基礎(chǔ)算力、智能算力、超算算力都呈現(xiàn)穩(wěn)定增長(zhǎng)態(tài)勢(shì)。
根據(jù)早些時(shí)候OpenAI發(fā)表了一份研究成果表明,AI訓(xùn)練所需算力指數(shù)增長(zhǎng),增長(zhǎng)速度超越硬件的摩爾定律。
其實(shí)ChatGPT需要的算力取決于應(yīng)用場(chǎng)景,一般來(lái)說(shuō),GPT需要大量的算力來(lái)完成復(fù)雜的任務(wù)。例如,在自然語(yǔ)言處理任務(wù)中,GPT需要大量的算力來(lái)處理大量的文本數(shù)據(jù),以及處理復(fù)雜的語(yǔ)義關(guān)系。此外,GPT還需要大量的算力來(lái)處理復(fù)雜的圖像和視頻數(shù)據(jù)。
數(shù)據(jù)顯示,自2012年至2018年,用于訓(xùn)練AI所需要的算力大約每隔3~4個(gè)月翻倍,整體呈現(xiàn)指數(shù)級(jí)上漲(而摩爾定律僅僅是18個(gè)月翻一倍)1。從2012年到2018年,訓(xùn)練AI所耗費(fèi)的算力增長(zhǎng)了30萬(wàn)倍,而摩爾定律在相同時(shí)間只有7倍的增長(zhǎng)。
ChatGPT熱度不減的背后,是人工智能內(nèi)容自動(dòng)生成技術(shù)所需要的算力需求也水漲船高。數(shù)據(jù)顯示,ChatGPT的總算力消耗約為3640PF-days(即假如每秒計(jì)算一千萬(wàn)億次,需要計(jì)算3640天),需要7~8個(gè)投資規(guī)模30億、算力500P的數(shù)據(jù)中心才能支撐運(yùn)行。
中國(guó)的算力情況正在迅速發(fā)展。根據(jù)最新的數(shù)據(jù),中國(guó)的計(jì)算機(jī)算力已經(jīng)超過(guò)美國(guó),成為全球最大的計(jì)算機(jī)算力擁有國(guó)。中國(guó)的算力發(fā)展受到政府的大力支持,政府投入了大量資金用于研發(fā)新技術(shù),推動(dòng)算力的發(fā)展。此外,中國(guó)的科技公司也在積極投資算力,以滿足市場(chǎng)需求。
ChatGPT大火面臨的挑戰(zhàn)
自ChatGPT發(fā)布以來(lái),它的能力也不斷被人們解鎖,但人們?cè)谠囉弥新l(fā)現(xiàn),數(shù)學(xué)能力是ChatGPT的一大短板,連簡(jiǎn)單的“雞兔同籠”題都能算錯(cuò)。大概是考慮到這一點(diǎn),ChatGPT近日宣布了一次重要更新:提升了真實(shí)性和數(shù)學(xué)能力。
據(jù)了解,ChatGPT較上一代產(chǎn)品提升明顯,對(duì)話模式具備更好的交互體驗(yàn)。但對(duì)比Google等搜索引擎,ChatGPT尚不具備替代搜索引擎的能力。ChatGPT的數(shù)據(jù)來(lái)自訓(xùn)練數(shù)據(jù)庫(kù),目前數(shù)據(jù)庫(kù)僅更新至2021年,可用信息有限,同時(shí)真實(shí)性也無(wú)法得到保障。
主要來(lái)自于大量的文本數(shù)據(jù),包括新聞文章、社交媒體帖子、書籍等。這些文本數(shù)據(jù)可以幫助ChatGPT學(xué)習(xí)語(yǔ)言,從而更好地理解人類語(yǔ)言。此外,從商業(yè)模式來(lái)看,ChatGPT目前采用免費(fèi)的模式。
根據(jù)OpenAI的CEO SamAltman披露,ChatGPT每次聊天成本約為幾美分,其中一部分來(lái)自Azure云服務(wù),未來(lái)公司在持續(xù)優(yōu)化成本的同時(shí),會(huì)考慮通過(guò)收費(fèi)獲利,預(yù)計(jì)的收費(fèi)模式包括訂閱制、按條收費(fèi)等。
文章綜合選股寶、第一財(cái)經(jīng)、中國(guó)科技網(wǎng)
-
摩爾定律
+關(guān)注
關(guān)注
4文章
636瀏覽量
79158 -
算力
+關(guān)注
關(guān)注
1文章
1009瀏覽量
14894 -
OpenAI
+關(guān)注
關(guān)注
9文章
1109瀏覽量
6616 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1566瀏覽量
7887
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論