色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

基于 Flexus 云服務(wù)器 X 實例體驗大模型部署體驗測評

jf_81200783 ? 來源:jf_81200783 ? 作者:jf_81200783 ? 2024-12-24 12:27 ? 次閱讀

前言

當(dāng)下,各種大模型層出不窮,先有 openai 的 chatgpt,后有百度文心一言,再就是國內(nèi)大模型齊頭并進的搶先發(fā)布。

讓普通的開發(fā)者不必為不能體驗 chatgpt 而擔(dān)憂,國內(nèi)的大模型速度也很快。但是大家目前都是在體驗,能不能部署一下試試呢?

今天,我們就以華為云 Flexus 云服務(wù)器 X 實例來部署一下,順便測測其性能看看。

在華為云 828 B2B 企業(yè)節(jié)狂潮中,F(xiàn)lexus X 實例的限時大促銷震撼來襲,絕對是你不容錯過的超級福利!對于那些追求極致算力、對自建 MySQL、Redis、Nginx 性能有著苛刻要求的技術(shù)極客們,這次活動無疑是你們的專屬盛宴!趕緊抓住這個千載難逢的機會,讓業(yè)務(wù)效能飛躍升級!!!

注意:本文為高端局,對于還不知道怎么使用 shell 工具,不知道云服務(wù)器為何物?不知道大模型為何物的讀者可以退出啦,本文不太適合

部署千問大模型

之前一直就想搞個大模型玩玩了,奈何電腦配置不打夠,所以只能是可望而不可及,今天,就單獨用這款華為云 Flexus 云服務(wù)器 X 實例來試試。

本文我們基于 Ollama 部署和運行大模型,那么,何為 Ollama?

不過官網(wǎng)上都是洋文,看著比較吃力。我搜了些資料,給大家現(xiàn)個丑:

Ollama 是一個強大的框架,設(shè)計用于在 Docker 容器中部署 LLM。Ollama 的主要功能是在 Docker 容器內(nèi)部署和管理 LLM 的促進者,它使該過程變得非常簡單。它幫助用戶快速在本地運行大模型,通過簡單的安裝指令,可以讓用戶執(zhí)行一條命令就在本地運行開源大型語言模型,例如 Llama 2。

下面,我們來開始實操!

wKgZPGdqOBSAFBglAAAUOzm0N4c547.png

我們可以直接從瀏覽器中輸入,然后會自動下載,當(dāng)然,我們也可以直接從 shell 工具中下載,不過就是有點慢,他這個東西還很大。

wKgZO2dqOBSAGwFpAABAXtXHvrc737.png

等待的過程挺漫長,可以先去找點別的事兒去做。

接著等待....

終于在漫長的等待過程中,我們將 ollama 下載下來了啦,下面我們就可以開始體驗了!!!

wKgZPGdqOBWAPOVdAADyteZuuIs192.png

1.啟動 ollama 的服務(wù)

當(dāng)我們服務(wù)器中有了 ollama 的服務(wù)后,我們需要啟動他!命令如下:

systemctl start ollama.service

然后我們在執(zhí)行一下下面的命令,看看服務(wù)是否已經(jīng)啟動:

systemctl status ollama.service

wKgZO2dqOBWATmrSAAJ4qlTxKLI313.png

3. 設(shè)置服務(wù)開機自啟動:

sudo systemctl enable ollama

1.查看內(nèi)存占用情況。

兩個方法都可以查看,第一是從寶塔面板中查看,第二就是直接輸入命令:

free -h

wKgZPGdqOBaAa9OBAAAZEayBzT4895.png

大家可以看的出來,used 這一列,表示的是已使用,目前來看,并不多。

1.運行大模型

我們先來看看 ollama 支持的大模型有哪些?

wKgZO2dqOBaAM_jmAAEW5u4RUZ8696.png

我們先跑個小點的千問大模型吧,千問 0.5B 的模型看看。

wKgZPGdqOBeAakKRAADdvTRFjE0652.png

輸入命令:

ollama run qwen2:0.5b

wKgZO2dqOBiAYKv3AAANQArwu7g712.png

還是繼續(xù)等待....等待的過程中,為了不浪費時間,可以看看別的事兒。

wKgZPGdqOBiAdY2DAAAqQb9dIN0014.png

wKgZO2dqOBiAfy1YAACCFN4bmYQ141.png

等待完成,下面我們就可以看到:Send a message 這句話了,表示我們可以直接使用大模型提問啦

1.體驗大模型

我們輸入個問題試試看看:

[MISSING IMAGE: , ]不知道為啥,他非要說自己是李政保,還說的有鼻子有眼的,質(zhì)量的問題我們不管,我們看性能和速度問題。

wKgZPGdqOBmAdB5YACYBlUqgAuI992.gif

簡單的錄了個小視頻,這速度還是很快的。可見這服務(wù)器的性能還是不錯的,感興趣的伙伴們,可以嘗試跑跑更大的模型試試。

總體來說,這次活動的力度還是蠻大的,主要是服務(wù)器性能也確實可以,不用 GPU 也可以跑大模型了,本文就是我們單純的用 CPU 就行跑的,體驗很好。

wKgZO2dqOBuATdF5AAMe6I92ToY076.png

至此,本文 over。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 云服務(wù)器
    +關(guān)注

    關(guān)注

    0

    文章

    580

    瀏覽量

    13362
  • 華為云
    +關(guān)注

    關(guān)注

    3

    文章

    2468

    瀏覽量

    17414
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2439

    瀏覽量

    2672
收藏 人收藏

    評論

    相關(guān)推薦

    華為 Flexus?X 實例:從選購到登錄,一站式指南

    Flexus 服務(wù)器 X 實例,這可是個寶貝! 這個 X
    的頭像 發(fā)表于 12-25 17:50 ?44次閱讀
    華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b>?<b class='flag-5'>X</b> <b class='flag-5'>實例</b>:從選購到登錄,一站式指南

    華為 Flexus X 實例服務(wù)器詳細操作教程

    ? 其中,2 核的服務(wù)器 26 元起,企業(yè)專區(qū)地址 2.8 折,新老用戶同享,不用怕殺熟啦。 我這邊拿到了一款華為 Flexus X
    的頭像 發(fā)表于 12-25 17:48 ?54次閱讀
    華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b><b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b>詳細操作教程

    華為 Flexus X 實例 MySQL 性能加速評測及對比

    目錄 前言 1 一、Flexus 服務(wù)器 X 介紹 1 1.1 Flexus
    的頭像 發(fā)表于 12-25 17:10 ?28次閱讀
    華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b> MySQL 性能加速評測及對比

    基于華為 Flexus 服務(wù)器 X 實例搭建 Linux 學(xué)習(xí)環(huán)境

    前言 在當(dāng)今信息技術(shù)日新月異的時代,華為 Flexus 服務(wù)器 X 實例以其強勁的性能和高性
    的頭像 發(fā)表于 12-25 17:10 ?16次閱讀
    基于華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b>搭建 Linux 學(xué)習(xí)環(huán)境

    華為 Flexus X 實例 docker 部署 Jitsi 構(gòu)建屬于自己的音視頻會議系統(tǒng)

    錯過這個機會。趕緊去看看吧! 什么是華為 Flexus X 實例 ·?華為 Flexus
    的頭像 發(fā)表于 12-25 17:08 ?17次閱讀
    華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b> docker <b class='flag-5'>部署</b> Jitsi 構(gòu)建屬于自己的音視頻會議系統(tǒng)

    采用 Flexus 服務(wù)器 X 實例搭建 RTSP 直播服務(wù)器

    監(jiān)控、直播和多媒體應(yīng)用的核心組件。在當(dāng)今高度互聯(lián)的世界中,能夠快速部署且穩(wěn)定運行的 RTSP 服務(wù)器對于確保高質(zhì)量的視頻流體驗至關(guān)重要。本文將指導(dǎo)如何在華為 Flexus?
    的頭像 發(fā)表于 12-24 17:36 ?107次閱讀
    采用 <b class='flag-5'>Flexus</b> <b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b>搭建 RTSP 直播<b class='flag-5'>服務(wù)器</b>

    基于 Flexus X 實例服務(wù)器的評測 - 大模型對比評測

    Flexus X 實例服務(wù)器,拿到后,就想著測測它的性能,看看有沒有官網(wǎng)說的那么神奇!!! 官網(wǎng)的活動地址在這里,領(lǐng) 8280 元券
    的頭像 發(fā)表于 12-24 17:34 ?94次閱讀
    基于 <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b><b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b>的評測 - 大<b class='flag-5'>模型</b>對比評測

    華為 Flexus 服務(wù)器 X 實例 使用流程

    感謝華為大哥的優(yōu)惠券 用優(yōu)惠券之后 0 元,再次感謝!歡迎大家購買一個,動手跟我一起試試 購買 Flexus 服務(wù)器 X 實例后,第一次使
    的頭像 發(fā)表于 12-24 17:28 ?104次閱讀
    華為 <b class='flag-5'>Flexus</b> <b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b> 使用流程

    基于 Flexus X 實例服務(wù)器的實際場景 - 等保三級服務(wù)器設(shè)置

    @TOC ? 寫在前面 今天是 9 月 5 日。就在前兩天,8 月 28 日,華為官方針對服務(wù)器推出了一個優(yōu)惠 力度很大的活動,Flexus X
    的頭像 發(fā)表于 12-24 17:28 ?70次閱讀
    基于 <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b><b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b>的實際場景 - 等保三級<b class='flag-5'>服務(wù)器</b>設(shè)置

    如何選擇合適的服務(wù)器 --X 實例購買指南和配置詳細說明

    前言 ? 1 x實例介紹 ? 2 購買步驟 ? 2.1 登錄華為官網(wǎng) ? 2.2 Flexus服務(wù)器
    的頭像 發(fā)表于 12-24 17:27 ?76次閱讀
    如何選擇合適的<b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> --<b class='flag-5'>X</b> <b class='flag-5'>實例</b>購買指南和配置詳細說明

    華為 Flexus 服務(wù)器 X 實例的購買及使用體驗

    價比服務(wù)。其中,華為 Flexus 服務(wù)器 X
    的頭像 發(fā)表于 12-24 17:26 ?99次閱讀
    華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b>的購買及使用體驗

    Flexus X 實例 ultralytics 模型 yolov10 深度學(xué)習(xí) AI 部署與應(yīng)用

    Flexus 服務(wù)器 X 實例 服務(wù)器,配置:4vCPUs | 12GiB 環(huán)境準備 購買
    的頭像 發(fā)表于 12-24 12:24 ?88次閱讀
    <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b> ultralytics <b class='flag-5'>模型</b> yolov10 深度學(xué)習(xí) AI <b class='flag-5'>部署</b>與應(yīng)用

    服務(wù)器 Flexus X 實例 MySQL 應(yīng)用加速測試

    文章目錄 目錄 文章目錄 ? 購買配置 ? 基本配置參考如下: ? 連接服務(wù)器 ? 查詢MySQL狀態(tài) ? 啟動MySQL ? 添加配置 ? 添加密碼并修改權(quán)限 ? 性能測試 ? C#插入數(shù)據(jù)測試
    的頭像 發(fā)表于 12-24 12:19 ?66次閱讀
    <b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b> MySQL 應(yīng)用加速測試

    重塑服務(wù),華為 Flexus X 實例破解服務(wù)傳統(tǒng)難題

    服務(wù)的局限性也逐步顯現(xiàn),成為阻礙企業(yè)發(fā)展的障礙。華為深刻洞察中小企業(yè)和開發(fā)者在服務(wù)應(yīng)用中遇到的挑戰(zhàn),推出了創(chuàng)新的華為
    的頭像 發(fā)表于 08-12 09:54 ?577次閱讀
    重塑<b class='flag-5'>云</b><b class='flag-5'>服務(wù)</b>,華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b>破解<b class='flag-5'>云</b><b class='flag-5'>服務(wù)</b>傳統(tǒng)難題

    華為 Flexus 服務(wù)器 X 實例以黑科技驅(qū)動,開辟高性能低成本服務(wù)新路徑

    ,破局而出,推出了一款顛覆性的產(chǎn)品——華為 Flexus 服務(wù)器 X 實例
    的頭像 發(fā)表于 07-04 10:12 ?1699次閱讀
    華為<b class='flag-5'>云</b> <b class='flag-5'>Flexus</b> <b class='flag-5'>云</b><b class='flag-5'>服務(wù)器</b> <b class='flag-5'>X</b> <b class='flag-5'>實例</b>以黑科技驅(qū)動,開辟高性能低成本<b class='flag-5'>云</b><b class='flag-5'>服務(wù)</b>新路徑
    主站蜘蛛池模板: 最新国产麻豆精品| 在镜头里被CAO翻了H| 亚洲AV久久无码高潮喷水| 小柔的性放荡羞辱日记| 亚洲AV无码乱码在线观看浪潮| 亚洲免费观看在线视频| 越南女 黑人 痛苦 大叫| 99久久国产露脸精品麻豆| 打卡中国各地奋斗第一线| 国产毛片女人高潮叫声| 精品亚洲一区二区在线播放| 么么哒日本影院| 色妹子综合| 夜色爽爽爽久久精品日韩| 91亚洲精品| 国产精品99久久免费黑人人妻| 好嗨哟在线看片免费| 蜜臀色欲AV无人A片一区| 日韩欧无码一区二区三区免费不卡 | 亚洲精品久久国产高清| 一久久| 办公室激情在线观看| 国产偷国产偷亚洲高清app| 两个人的视频免费| 色欲精品久久人妻AV中文字幕| 亚洲偷偷自拍免费视频在线| 999人在线精品播放视频| 国产精品观看视频免费完整版| 久久艹综合| 色小姐.com| 最近中文字幕完整版高清| 国产99久久九九精品无码不卡| 久久热免费观看视频| 手机在线观看毛片| 中文字幕亚洲视频| 高清国产mv视频在线观看| 久久久擼擼擼麻豆| 无码中文字幕av免费放| 99久久国产综合精品| 后入式啪gif动态图| 日韩免费精品视频|