色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Meta推出Llama 2 免費開放商業和研究機構使用

IEEE電氣電子工程師 ? 來源:IEEE電氣電子工程師 ? 2023-08-02 16:17 ? 次閱讀

近日,Meta推出了Llama 2,這是一個新的大型語言模型,參數高達700億。新的生成型人工智能系統代表了OpenAI的變化,但是幾乎沒有分享包括GPT-3/3.5和GPT-4在內的大多數人工智能模型的細節。根據維基百科的數據,Llama 2的發布包含了ChatGPT 3.5的40%的參數,其中包括與微軟的重要合作。Redmond也不僅僅是一個名義上的合作伙伴,他最近宣布支持Azure和Windows中的Llama 2。與此同時,高通公司現在表示,它將與Llama 2一起加入LLM競爭,并公布了將Llama 2帶入智能手機中的計劃。

Meta方面在微軟的Inspire合作伙伴大會上宣布,將與包括微軟在內的主要云計算服務提供商合作,推出新一代開源大模型Llama 2,并將該模型免費開放給商業和研究機構使用。

這樣的發展意味著,無論來源如何,開源人工智能模型的能力和覆蓋范圍都將大幅擴大。

Llama 2: Fine-tuned and Ready to Chat

Perplexity.ai提供了一個令人印象深刻的多個Llama 2模型的免費在線演示。它的結果與包括ChatGPT和谷歌Bard在內的當今頂級聊天機器人具有競爭力。Llama 2快速生成干凈、自然的文本,盡管不太可能非常出彩,但易于閱讀和理解。Llama 2還可以生成通常理解的事實、生成代碼和求解數學方程。

與所有LLM一樣,Llama 2偶爾會產生不正確或不可用的答案,但Meta介紹Llama的論文聲稱,它在學術基準方面與OpenAI的GPT 3.5不相上下,如MMLU(衡量LLM在57門STEM科目中的知識)和GSM8K(衡量LLM對數學的理解)。

Meta的研究人員部分是通過純粹的模型大小實現的 —— 但這只是故事的一半。根據Meta的論文,Llama 2使用了有監督的微調、帶有人類反饋的強化學習和一種名為Ghost Attention(GAtt)的新技術,該技術“能夠在多個回合中進行對話控制”。更簡單地說,GAtt幫助Llama在被要求在特定約束下工作時產生所需的結果,就像被要求“扮演”歷史人物時可能發生的那樣,或者在諸如架構之類的特定主題的上下文中產生響應。

25266d8c-3108-11ee-9e74-dac502259ad0.png

META

這些技術有助于Llama 2提供各種型號,相對于其尺寸,具有可靠的基準性能。最大的模型Llama 2 70B(有700億個參數)在所有基準測試中表現最好,但Meta也提供Llama 27 B和Llama 13 B。

參數較少的變體性能不如Llama 2 70B,但它們足夠緊湊,可以在功能較弱的設備(如智能手機)上本地運行。領先的智能手機片上系統(SoC)生產商高通公司宣布與Meta合作,“從2024年開始”讓Llama 2在高通公司支持的智能手機上本地運行”。

高通公司營銷傳播專家Rodrigo Caruso Neves do Amaral表示:“我們能夠使用我們的軟件工具來編譯和優化模型,特別是在我們的Hexagon處理器上運行。無論是對運行這些型號的公司,還是對有時必須為訪問這些應用程序付費的消費者,在設備上運行所節省的能量都會產生巨大影響?!?/p>

Open Source Fits Where Closed Models Can’t

在智能手機上離線運行大型語言模型是封閉的人工智能模型(如OpenAI的GPT 3.5和谷歌的PaLM2)無法處理的。這不一定是由于技術限制(據推測,OpenAI和谷歌可以提供一種適合智能手機的模型),而是哲學上的分歧。OpenAI和谷歌提供LLM作為API。訪問API需要互聯網連接,客戶將根據使用情況收費。

相比之下,Llama 2的發布表示允許無限、免費的商業和學術使用。該許可并不符合開源計劃制定的所有標準,因為該許可包括一項條款,要求允許將Llama 2用于“月活躍用戶超過7億”的“產品或服務”。然而,該條款僅適用于Meta最大的競爭對手,如OpenAI和谷歌。Meta的Llama 2模型已經出現在HuggingFace的Open LLM排行榜上,截至7月24日星期一收盤,“Llama-2-70b-chat-hf”的延遲和吞吐量基準排名第三。(截至發稿時,目前的頂級模型Stability AI的FreeWilly2實際上已經基于Llama 2,但FreeWilly22使用不同的數據集對模型進行了微調。)

Srinivas認為Llama 2的開源許可證是一個力量倍增器,為開發者和研究人員提供了一個根據他們的特定需求調整模型的機會?!耙粋€人可以啟動Llama 2的分支,專注于量化,另一個人可以開啟另一個Llama的分支關注于低階微調,……其他人則可以將更大的模型提煉成更小的模型,從而加速進展。”

事實證明,這對瞄準邊緣設備(如智能手機)的開發人員來說尤其重要??紤]到型號的大小,Llama 2 70B表現出色并不令人驚訝。但Llama 2的較小型號相對于其型號大小也排名良好。在Open LLM排行榜上,大多數表現優于Llama 2的小型模型本身都是基于Meta之前的模型Llama。這表明,隨著開源社區的開發人員將他們的才能應用到Llama 2中,Llama 2將在排行榜上名列前茅。

Srinivas說:“我認為Llama 2 7B和Llama 2 13B已經很令人興奮了……這只是一個開始。Meta推出了它,現在人們可以改進它??梢詷嫿ㄆ渌蚣芎推渌こ虒?,這賦予了每個人更多的權力。”

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1800

    文章

    48105

    瀏覽量

    242247
  • 模型
    +關注

    關注

    1

    文章

    3418

    瀏覽量

    49482
  • OpenAI
    +關注

    關注

    9

    文章

    1184

    瀏覽量

    6930

原文標題:Meta推出Llama 2 免費開放商業和研究機構使用

文章出處:【微信號:IEEE_China,微信公眾號:IEEE電氣電子工程師】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    無法在OVMS上運行來自Meta的大型語言模型 (LLM),為什么?

    無法在 OVMS 上運行來自 Meta 的大型語言模型 (LLM),例如 LLaMa2。 從 OVMS GitHub* 存儲庫運行 llama_chat Python* Demo 時遇到錯誤。
    發表于 03-05 08:07

    Meta推出Llama 3.3 70B,AI大模型競爭白熱化

    在今年的AI領域,Meta也不甘落后,推出了其壓軸之作——Llama 3.3 70B大模型。與此同時,馬斯克的xAI也宣布其Grok模型從今天起全球免費
    的頭像 發表于 12-09 14:50 ?535次閱讀

    Meta發布Llama 3.2量化版模型

    近日,Meta在開源Llama 3.2的1B與3B模型后,再次為人工智能領域帶來了新進展。10月24日,Meta正式推出了這兩個模型的量化版本,旨在進一步優化模型性能,拓寬其應用場景。
    的頭像 發表于 10-29 11:05 ?578次閱讀

    亞馬遜云科技上線Meta Llama 3.2模型

    亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta首款多模態模型,現已在Amazon Bedrock和Amazon SageMaker中全面可用。
    的頭像 發表于 10-11 18:08 ?563次閱讀

    亞馬遜云科技正式上線Meta Llama 3.2模型

    亞馬遜云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模態模型,現已在Amazon Bedrock和Amazon SageMaker中正式可用。
    的頭像 發表于 10-11 09:20 ?636次閱讀

    Meta Llama 3.1系列模型可在Google Cloud上使用

    我們很高興宣布,Llama 3.1 系列模型已添加到 Vertex AI Model Garden,這包括全新的 405B,即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些模型的添加,表明
    的頭像 發表于 08-02 15:42 ?506次閱讀

    PerfXCloud平臺成功接入Meta Llama3.1

    近日,Meta對外宣布推出迄今為止最強大的開源模型——Llama3.1 405B,同時還發布了全新優化升級的70B和8B版本,技術革新的浪潮再次洶涌來襲!在此,我們滿懷欣喜地向您宣告,PerfXCloud平臺現已成功接入
    的頭像 發表于 07-25 10:26 ?746次閱讀

    Meta發布全新開源大模型Llama 3.1

    科技巨頭Meta近期震撼發布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標志著Meta在AI領域的又一重大突破。Meta創始人馬克·扎克伯格親自站臺,盛贊
    的頭像 發表于 07-24 18:25 ?1551次閱讀

    Meta發布基于Code Llama的LLM編譯器

    近日,科技巨頭Meta在其X平臺上正式宣布推出了一款革命性的LLM編譯器,這一模型家族基于Meta Code Llama構建,并融合了先進的代碼優化和編譯器功能。LLM編譯器的
    的頭像 發表于 06-29 17:54 ?1631次閱讀

    Meta Llama 3基礎模型現已在亞馬遜云科技正式可用

    亞馬遜云科技近日宣布,Meta公司最新發布的兩款Llama 3基礎模型——Llama 3 8B和Llama 3 70B,現已正式上線并集成至Amazon SageMaker JumpS
    的頭像 發表于 05-09 10:39 ?490次閱讀

    高通支持Meta Llama 3在驍龍終端上運行

    高通與Meta攜手合作,共同推動MetaLlama 3大語言模型(LLM)在驍龍驅動的各類終端設備上實現高效運行。此次合作致力于優化Llama 3在智能手機、個人電腦、VR/AR頭顯
    的頭像 發表于 05-09 10:37 ?511次閱讀

    英特爾AI產品助力其運行Meta新一代大語言模型Meta Llama 3

    英特爾豐富的AI產品——面向數據中心的至強處理器,邊緣處理器及AI PC等產品為開發者提供最新的優化,助力其運行Meta新一代大語言模型Meta Llama 3
    的頭像 發表于 04-28 11:16 ?758次閱讀

    高通與Meta合作優化Meta Llama 3,實現終端側運行

    高通技術公司高級副總裁兼技術規劃和邊緣解決方案業務總經理馬德嘉表示:“我們對Meta開放Meta Llama 3的策略表示贊賞,高通與Meta
    的頭像 發表于 04-22 09:51 ?573次閱讀

    Meta推出最強開源模型Llama 3 要挑戰GPT

    公司這次開源了Llama 3 8B與70B兩款不同規模的模型,開發者可以免費使用,而Meta公司還將陸續推出一系列具備多模態、多語言對話、更長上下文窗口等能力的新模型。 據悉
    的頭像 發表于 04-19 17:00 ?968次閱讀

    Meta推出新一代語言模型LLAMA 3,性能優于GPT-3.5

    Meta決定將Llama 3的80億參數版開源,以期讓更多人能夠接觸到尖端的AI技術。全球范圍內的開發者、研究員以及對AI充滿好奇的人士均可參與其中,進行游戲開發、模型構建與實驗探索。
    的頭像 發表于 04-19 10:21 ?965次閱讀
    主站蜘蛛池模板: 久久国内精品视频 | 全部免费特黄特色大片看片 | 福利社影院 | 午夜宅宅伦电影网 | 最新日本免费一区 | 一边捏奶头一边啪高潮会怎么样 | 白丝高中生被c爽哭 | 青青青青青青草 | 乱精品一区字幕二区 | 99re6久久热在线视频 | 伦理片午夜在线视频 | 日本免费无码A专区在线观看 | 在线高清电影理论片4399 | 秋霞最新高清无码鲁丝片 | SM脚奴调教丨踩踏贱奴 | www.97干 | 美女MM131爽爽爽 | 天津相声广播在线收听 | 亚洲AV中文字幕无码久久 | 女的把腿张开男的往里面插 | 久久久无码精品亚洲欧美 | 国产在线精品视亚洲不卡 | 果冻传媒在线观看资源七夕 | 37大但人文艺术A级都市天气 | 国产成人无码免费精品果冻传媒 | 中文字幕在线视频观看 | 亚洲色欲色欲WWW在线成人网 | 老师真棒无遮瑕版漫画免费 | 亚洲一区二区三区高清网 | 被免费网站在线视频 | 我强进了老师身体在线观看 | 久久99视频免费 | 涩涩爱涩涩片影院 | 亚洲精品久久久久AV无码 | 4虎影院午夜在线观看 | 欧美重口绿帽video | 久久久久激情免费观看 | 国精产品一区一区三区有限在线 | 午夜日韩久久影院 | 国精产品一区一区三区有限公司 | 96精品视频 |