不久前,亞馬遜云科技 re:Invent 2023 在拉斯維加斯圓滿落幕,會上發布了一系列對行業帶來深遠影響的產品及服務,并由此引發了圈內的廣泛探討。為了能夠更加清晰地理解這家全球云計算巨頭的戰略意圖,以及這次大會對開發者帶來的深刻影響,InfoQ 中國創始人霍太穩在 re:Invent 2023 現場采訪了亞馬遜云科技大中華區解決方案架構部總經理代聞,以下為經編輯整理后的訪談實錄。
1完整的端到端能力:亞馬遜云科技的生成式 AI 全景圖
本次 re:Invent 大會,最引人矚目的無疑是“生成式 AI”,亞馬遜云科技首席執行官 Adam Selipsky 表示:圍繞生成式 AI 模型的創新具有爆炸性,它將重塑我們在工作和家庭中交互的每一個應用程序,我們正在以一種跟以往完全不同的方式來探討生成式 AI 的概念。
由此,亞馬遜云科技圍繞生成式 AI 的全新技術堆棧誕生,這也是目前業內最早圍繞開發者和用戶公布完整的生成式 AI 應用開發端到端能力的廠商之一。
亞馬遜云科技大中華區解決方案架構部總經理代聞表示,亞馬遜云科技的生成式 AI 技術堆棧共由三層技術棧組成,自底向上分別是基礎設施層、基礎模型服務層和 AI 應用層。在該架構之下,一方面亞馬遜云科技會利用自研的芯片、模型、數據、服務等綜合能力,確保在計算能力與成本之間取得平衡;另一方面,為了給到開發者和客戶更多樣化的選擇,亞馬遜云科技也將持續與英偉達、Anthropic 等軟硬件廠商保持緊密合作。
他進一步解釋道:“在基礎設施層,主要包括用于訓練和推理的基礎設和 MLOps 平臺,共同為生成式 AI 提供穩定可靠的計算和存儲能力支持。”
事實上,憑借著 Nitro 虛擬機管理程序以及 Graviton、Trainium 和 Inferentia 等芯片家族,亞馬遜云科技已經積累起豐富的芯片開發技術經驗。在今年的 re:Invent 大會上,亞馬遜云科技更進一步,推出了為生成式 AI 和機器學習訓練而生的云端 AI 芯片 Amazon Trainium2 等,以及自研服務器 CPU 芯片 Amazon Graviton4。
“模型層主要負責模型的調用、微調、優化等,幫助用戶更加靈活和高效地使用生成式 AI 技術,提高模型的性能和效率。這次發布會,我們也重磅升級了 Amazon Bedrock。它是一個可對托管基礎模型進行訪問的平臺,其中既包括亞馬遜云科技自身的 Amazon Titan 系列大語言模型,也提供來自其他廠商及開源生態系統的神經網絡選項。”代聞介紹道。
值得一提的是,針對 Amazon Bedrock,亞馬遜云科技此次還公布三項新功能:模型微調、檢索增強生成(RAG) 與大模型預訓練,允許客戶針對特定任務對 Bedrock 中的大模型進行定制。
應用層主要包括各種生成式 AI 應用,如自然語言處理、圖像識別、語音識別等。亞馬遜云科技新推出的生成式 AI 助理 Amazon Q 也包含在這一層中。這些應用可以幫助企業快速構建和部署 AI 應用,提高業務效率和創新能力。
代聞表示:“總的來說,這三層 AI 堆棧里面,底層面向的是大模型的構建者,中間層面向大模型的使用者,最上層面向生成式 AI 應用的開發者。”
談及這些發布對開發者究竟有何影響,代聞表示,對于國內大模型開發者而言,如何以更低的成本訓練出高質量的模型才是重中之重。這涉及到兩大核心問題:一是有沒有強大的芯片支持,二是有沒有便捷的框架來調度這些計算資源。恰好亞馬遜云科技平臺為用戶提供了豐富的選擇,包括高效的 GPU、機器學習和推理芯片,以及用戶友好的 Amazon SageMaker 機器學習框架等等。
“對于希望在企業內部實際應用大模型的用戶來說,亞馬遜云科技的 Amazon Bedrock 則是個不可或缺的工具。如果沒有它,開發者可能需要投入大量精力進行毒性過濾和魯棒性評估等工作。但現在,有了這個標準化平臺,開發者可以直接使用它的 Guardrails 等功能來解決上述問題,大大簡化了工作流程。”代聞補充介紹道。
此外,對于純應用開發者,比如移動 APP 開發者。代聞表示,即使沒有大語言模型的知識,開發者們也可以利用亞馬遜云科技的應用層服務,比如 Amazon Q 來輕松整合后臺的各種數據源,來為 APP 增添新功能等。
綜合來看,從底層基礎設施到中間的基礎模型,再到頂層 AI 應用,透過這張 AI 全景圖,顯而易見的是亞馬遜云科技多年來在前沿技術領域的持續深耕,由此沉淀下來的端到端的綜合實力。生成式 AI 浪潮的出現,正在全面影響技術行業,而亞馬遜云科技希望以“全家桶”式的產品服務,幫助企業與開發者掌握先機。
2生成式 AI 正在全面影響技術行業 重構開發規則與業務流程
毋庸置疑,生成式 AI 正在全面、廣泛且深刻地影響著技術行業,但是對于企業和開發者而言,盲目地使用生成式 AI 產品很可能會對業務增長帶來適得其反的效果,先進的技術與工具是否能夠跟現有的業務流無縫鏈接、深度融合才是關鍵。而這一次的 re:Invent 大會上的一系列生成式 AI 產品的發布,則是在向全行業宣告“企業級生成式 AI 工具”正式到來了。
回顧 re:Invent 2023 生成式 AI 方面的重要發布,最令開發者興奮的可能就是 Amazon Q 了。Amazon Q 是一項新型生成式 AI 輔助服務,官方定義其為——為業務量身定制的生成式 AI 助手,可以幫助員工快速利用公司的數據和專業知識獲得問題答案、解決問題、生成內容等,同時還能根據企業客戶的業務進行個性化定制。
據介紹,Amazon Q 主要面向生成式 AI 應用的開發,目前已經具備四個方面的能力:
亞馬遜云科技專家:對亞馬遜云科技的每一個功能、模塊都有充分的了解。
業務專家:能夠自動分析行業狀況及下游客戶的需求。
商業智能專家:能夠對大量商業數據進行分析,從而輔助決策。
客服專家:對用戶企業情況充分了解,可以充當智能客服工作。
代聞補充介紹道,首先是關于亞馬遜云科技平臺本身的開發,Amazon Q 能夠顯著提高開發者的效率。比如,如果你想知道如何在亞馬遜云科技上構建一個網站,你可以直接咨 Amazon Q,它會在控制臺內為你提供答案。如果你不清楚如何使用亞馬遜云科技的某項服務,在過去你可能需要花費數小時搜索文檔,但現在只需提問,Amazon Q 就能立即為你提供操作步驟,甚至生成所需的代碼片段。
其次,在業務層面,Amazon Q 可以收集并連接多個數據接口,提取數據,并根據 Insights 進行綜合分析,從而直接支持業務需求。
在 BI(商業智能)方面,Amazon Q 可以直接讓用戶在 QuickSight 等 BI 工具中提問,并進行 BI 級別的分析。
在呼叫中心方面,Amazon Q 能夠直接被集成到亞馬遜云科技平臺上,從而幫助企業提升呼叫中心的運營效率。一方面,通過云計算的彈性和可擴展性,Amazon Q 能夠根據實際需求自動調整資源投入,確保在高峰期提供穩定的服務;另一方面,通過亞馬遜云科技平臺,企業可以方便地獲取并分析客服數據,了解客戶需求和行為模式,為產品優化和市場策略制定提供支持。
另外,Amazon Q 還已經擴展到了 ETL 工具 Glue 中,你可以使用自然語言的方式來生成 ETL 代碼。甚至在 RedShift 數據倉庫中,你也可以利用 Amazon Q 的功能來助力查詢等。
從某種意義上說,Amazon Q 的出現,就是為了幫助企業在做工程化的過程中能夠獲得更多標準化能力的支持,從而減少大量的重復性勞動。
“只要是通過亞馬遜云科技的產品或服務寫的代碼,都可以使用 Amazon Q 來進行查詢、分析、糾錯等等;對于 BI(商業智能) 也一樣,Amazon Q 能夠直接把大模型的能力給到你,無論是數據的提取、異跳、查詢以及 BI 展現,都能一站式解決。這些背后都源于我們給 Amazon Q 做了非常多標準化接口,并且能與業務流做整合。”代聞解釋道。
除了面向生成式 AI 應用開發者的 Amazon Q 外,面向大模型使用者的 Amazon Bedrock 同樣引發了廣泛的關注。此次發布會上,Amazon Bedrock 迎來重磅升級,增加了 Fine-tuning、Agents、Knowledge Bases、Guardrails 等全新功能,旨在幫助客戶更高效、智能、安全地構建應用。
發布會上,Adam 表示:“不會有一種模式能夠統治一切,你需要嘗試不同的模型,你需要選擇合適的模型提供商。”據悉,Amazon Bedrock 支持 Stability AI、AI21 labs、Anthropic、Cohere、Meta,以及 Amazon Titan 等各類大語言模型或基礎模型,為客戶帶來了更多的開放選擇,目前已經吸引了超過 1 萬名客戶使用。
對于 Amazon Bedrock 開放兼容,代聞表示:“我認為對于客戶來說,這不只是一個模型選擇的問題,還有選擇模型以后,怎樣在自己的環境里面落地的問題。”
在大模型百花齊放的今天,究竟怎樣的大模型才是最適合自身企業的大模型?這是很多企業想要得到的答案。Swami 在演講里提到了一個金融科技公司 INTUIT 的案例,該客戶表示雖然有非常多的大模型可供選擇,但是就算選擇了一個非常適合的大模型,也還是需要做一定的定制化,包括 Fine-tuning 能夠使用自有語料,讓它變成能夠在自身企業上下文里理解問題、產生內容的大模型。
“其實我覺得這一點在 ToB 領域會更加明顯,因為在 ToB 領域,各種行業的知識和交互都有特定的上下文,比方說在醫療行業里或在制造行業里,它們的上下文都是不一樣,甚至一樣的話可能有不一樣的意思。在國內叫定制化,也剛好是這次 Amazon Bedrock 它進一步增強的能力。”代聞表示。
對于 Amazon Bedrock 的最新進展,代聞進一步補充道:“第一是 Amazon Bedrock 它已經嚴選了一批模型,覆蓋了多種自然語言的交互,甚至包括一些小語種;第二,在網絡安全層面,Amazon Bedrock 采用了單獨的 VPC 做隔離,能保障模型的安全性和數據的隱私性;第三是 Amazon Bedrock 目前已經宣布對所有的庫內模型提供 Fine-tuning 支持,能夠幫助企業開發者更好地定制大模型。”
此外代聞還提到,雖然 Amazon Bedrock 才推出不到半年,但是已經有很多國內廠商在積極加入。比如,金山辦公在 WPS 出海業務里已經使用了 Amazon Bedrock,之后亞馬遜云科技也將會與金山辦公的客戶一起將 Amazon Bedrock 的一些新功能融入到業務場景中去。
總的來說,Amazon Bedrock 的這些更新不僅只是效率、靈活性、拓展性等方面的提升,更重要的是明確地傳達了一個信息:在 AI 的開發和應用中,技術和道德、功能和責任是并行不悖的,也即是發布會上,亞馬遜云科技反復提及的 “Responsible AI” 的理念,而這無疑是對整個行業的一個重要提醒和指引。
新的范式下,云計算與生成式 AI 如何相輔相成?
作為云計算行業的年度盛會,在與生成式 AI 碰撞之后,又會產生哪些新的火花與思考?
“用一個比較通俗的形容來說,云計算與生成式 AI 是相輔相成的關系。假設回到十年前,云計算還沒誕生,我想生成式 AI 也很難實現,因為它背后需要大量的數據、大量的算力支撐等等,沒有云計算和高性能的芯片支撐,是很難實現的。所以云計算本身的意義就在于計算的普惠,而生成式 AI 又大大地促進了技術對人類生產生活方式的改造。而且現在大家逐漸有了一個共識——只有在云上來做生成式 AI,才能夠更進一步地普及生成式 AI。”代聞如是地答道。
“再反過來,生成式 AI 其實對云計算也會帶來革命性的改變。比方說之前云計算本身很大一個方面是自動化。自動化以后我們就有 API,那現在有生成式 AI 以后,代碼都可以自動生成了,再與 Serverless 結合之后,如果我們想生成一個網站,使用自然語言完全就可以實現。”代聞補充道。
事實上,現在亞馬遜云科技社區里,已經推出了一項生成式 AI 試玩工具——Amazon PartyRock,開發者可以用自然語言的方式去實現基于云的生成式 AI 應用開發。關于 Amazon PartyRock 的更多玩法,我們同樣有在 re:Invent 現場采訪亞馬遜云科技副總裁、首席布道師 Jeff Barr,聽他談談 《生成式 AI 時代,開發者們如何玩轉 PartyRock?》。
對于“云 + 生成式 AI”如何更好地賦能開發者,代聞表示,云其實是一個抽象工具,它首先抽象了所有的基礎設施,然后再抽象了很多的平臺軟件,包括各種應用類、數據類的,進而我們又有了 Serverless 的編程方式。一方面,生成式 AI 的出現可能會進一步加速 Serverless 的普及,因為當一個組織里的技術人員,都開始思考怎樣更好地應用生成式 AI、怎樣提出更好的問題時,一些無差別的運維工作或者基礎開發工作,通過生成式 AI + Serverless 的方式,很快能夠做出來;另一方面,生成式 AI 的落地也需要結合 Serverless 的一些服務,去促進它的平臺建設,當然這也是一個持續抽象的過程,比如基礎設施抽象成基礎設施即服務的接口,數據服務又抽象出數據服務的接口,應用服務抽象出應用服務的接口等。
對于 Serverless 的優勢,他進一步舉例道,亞馬遜云科技新發布的 Amazon ElastiCache Serverless 緩存服務,能夠把整個集群的內存容量擴到 5 個 TB。如果企業自己運營一個 5TB 的集群,運維工作量非常大。但是在云上其實只要使用 Amazon ElastiCache Serverless,就可以輕松地獲得這個能力。包括這次發布 Amazon Aurora Limitless Database,也是一個 Serverless 的體現,它可以支持 PB 級的容量、百萬級的寫并訪問,傳統做法肯定是得用多個 Aurora 的 Instance 做分庫分表,并且需要自己持續維護,但現在通過云上原生的一些能力就能實現,就像你寫在一張表或者一個 Database 里面的效果,大大簡化了運維,同時擁有更好的性能。恰好,Serverless 的這些能力也同樣適用于生成式 AI 應用的構建。
從某種意義上來說,“云+生成式 AI”的核心優勢就在于——開發者們通過云原生的環境去構建生成式 AI 應用,隨時隨地、且無限制地使用云上最新的資源、工具與服務,只需要專注于開發本身即可。而這也即是亞馬遜云科技所倡導的“成為生成式 AI 原生開發者”。
Let's 構!“現在是成為構建者最好的時代!”
事實上,無論是面向企業開發者的 Amazon Q 還是面向大模型使用者的 Amazon Bedrock,亦或是更早發布的面向個人開發者的 AI 編程工具 Amazon CodeWhisperer,隨著生成式 AI 能力的增強與場景實踐日益豐富,開發的門檻被大大降低,用自然語言進行編程正在逐漸成為現實。
“以前如果一個企業有數據中心,那就需要風火水電以及相應的運維工程師,但是現在有了云計算,大家可以省去這些基礎運維了,基礎性物理硬件維護都變少了。工程師們更多思考的是怎么樣升級技能,把時間精力放在離業務價值更近的地方去。生成式 AI 也一樣會帶來類似的變化,這其實都是技術更迭帶來的結果。”代聞表示。
面向未來,通過使用生成式 AI 工具,人人都可能成為開發者或者更準確的說是構建者,人們可以節省大量的重復勞動的時間,將精力集中在實現業務目標上,低代碼和零代碼平臺同樣也是這一趨勢下的產物。
“但是雖然生成式 AI 工具能夠幫你解決很多基礎性問題,但這并不意味著你不需要學習,因為生成式 AI 之下,你得提出好問題,這樣才能依托工具得出理想的結果,如果你不學習,缺乏系統性認知,其實是沒有辦法來提出有效的問題的。”代聞補充道。
對于傳統的開發者而言,如何面對生成式 AI 的浪潮,需要做出怎樣的改變,是亟需思考的一個話題。事實上,隨著生成式 AI 的廣泛應用,無論是開發者的技術路徑還是職業發展路徑,都可能會受到影響。
“我覺得對于開發者而言,首先是要擁抱技術趨勢,不斷學習。在亞馬遜云科技的公司文化里,有一條叫‘learn and be curious’,即好奇求知。對于技術人員或者每一個人來說,好奇求知是應對技術更新和環境變革的最好方式;其次是要保持冷靜,從自己的真實工作環境出發,去思考生成式 AI 能夠給自己帶來怎樣的價值。很多網文販賣焦慮,但在實際落地時,更應該與自己的實際需求形成閉環,比如短期內通過生成式 AI 的幫助能帶來一個立竿見影的結果。只有這樣才能大大推動生成式 AI 在組織中的利用,也為開發人員提供了一個正向的反饋。”代聞解釋道。
針對不同背景的開發人員,如數據開發人員和傳統的 Java 前端開發人員,他表示可以根據自身技能和背景直接使用已經開箱即用的生成式 AI 服務,比如通過亞馬遜云科技提供的各種服務快速構建生成式 AI 應用,找到最小成本的體驗路徑和最快的正向反饋。
事實上,一項新的技術的提出并廣泛推廣,往往需要更多來自組織層面的力量。代聞強調在實際項目中,生成式 AI 的成功落地與業務部門的支持息息相關。生成式 AI 的浪潮與之前的 AI 項目有所不同,現在企業的業務部門甚至一把手都意識到了生成式 AI 對于降本增效的重要性,因此他們會支持這樣的項目。這種支持也會讓技術人員有更多的機會去了解和應用生成式 AI,促使技術人員成為“業技復合型”人才。同樣也會對生成式 AI 的技術普惠和個人的職業生涯發展帶來積極的影響。
3技術前輪,市場后輪,生成式 AI 普惠已來
當然,除了生成式 AI 方面的一系列重磅發布,本屆 re:Invent 同樣也帶來了一系列云計算領域的新突破:比如亞馬遜云科技全面升級 S3 對象存儲服務 Amazon S3 Express One Zone,能夠提供個位數、毫秒級的每秒數十萬次數據訪問,并且請求成本降低 50%,計算成本降低 60%;還比如宣布了 4 項新的 Zero-ETL 集成功能,使客戶能夠快速、輕松地連接和分析數據,而無需構建和管理復雜的提取、轉換和加載(ETL)數據管道等等。
技術的車輪滾滾向前,對于企業而言,只有不斷擁抱變化,持續創新,才有可能基業長青,從亞馬遜云科技今年在生成式 AI 領域的大放異彩中,可見一斑。“總的來說,對于開發者而言,我認為理性看待生成式 AI 的浪潮,保持學習,并且積極利用先進的生成式 AI 工具解放雙手,提高生產力、激發創造力,才是關鍵。”代聞總結道。
re:Invent 2023 帶給行業最大的驚喜在于:伴隨著亞馬遜云科技一系列的生成式 AI 產品和云服務的發布,AI 普惠的力量開始從產業端、企業端,更進一步落位到個體端的構建者身上。構建者們可以利用這套全新的、融入業務流的生成式 AI 工具去重構業務,并且能夠以更強的主觀能動性去創造更大的社會價值。
期待更多的企業和開發者能夠通過各種生成式 AI 產品或服務去重構未來競爭力,助力業務創新,進而推動生成式 AI 技術的普惠。而在這個過程中,亞馬遜云科技或許會持續帶給行業更多驚喜。
-
亞馬遜
+關注
關注
8文章
2669瀏覽量
83431 -
大模型
+關注
關注
2文章
2480瀏覽量
2845 -
生成式AI
+關注
關注
0文章
508瀏覽量
500
原文標題:洞見 re:Invent:生成式 AI 與云共舞,成為構建者最好的時代來臨!
文章出處:【微信號:AI前線,微信公眾號:AI前線】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論