色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA GPU 加速 WPS Office AI 服務,助力打造優質的用戶體驗

NVIDIA英偉達 ? 來源:未知 ? 2023-06-29 21:35 ? 次閱讀

案例介紹

金山辦公與 NVIDIA 團隊合作,通過 NVIDIA Tensor Core GPU、TensorRT 提升圖像文檔識別與理解的推理效率;借助 NVIDIA Triton 推理服務器的部署,成功優化 GPU 利用率,提供高推理吞吐量。

客戶簡介及應用背景

金山辦公是一家辦公軟件和服務提供商,主要從事 WPS Office 辦公軟件產品及服務的設計研發及銷售推?。產品包括 WPS Office 辦公軟件、???檔等協同辦公產品、圖像文檔識別與理解業務,可在 Windows、Linux、macOS、AndroidiOSHarmony 等眾多主流操作平臺上應?,于全球也有越來越多的用戶樂享金山辦公提供的產品和服務。

在辦公場景中,文檔類型圖像被廣泛使用,比如證件、發票、合同、保險單、掃描書籍、拍攝的表格等,這類圖像包含了大量的純文本信息,還包含有表格、圖片、印章、手寫、公式等復雜的版面布局和結構信息。早前這些信息均采用人工來處理,需要耗費大量人力,很大程度上阻礙了企業的辦公效率 。其圖像文檔識別與內容理解業務就是為了解決此類用戶痛點。

自 2017 年以來的不斷耕耘,金山辦公在圖像文檔識別與理解領域已達到了國內領先水平。其主要使用了 CV(Computer Vision)與 VIE(Visual Information Extraction 視覺信息抽取) 等相關深度學習技術,例如通過 CV 技術識別發票和 PDF 大綱并獲取其中的數據關系,其日請求次數已達上億次。

客戶挑戰

圖像識別與理解是一個很復雜的過程,一個任務的 pipeline 用到的深度學習模型多達 20+ 個,且日請求量級較大(上億級別)需要大量的計算資源。當業務落地時,團隊主要面臨以下兩個挑戰:

1、任務的絕對耗時不能過長。

2、成本問題。

應用方案

為了解決上訴的兩個挑戰,金山辦公采用了 NVIDIA T4 Tensor Core GPU 進行推理、NVIDIA TensorRT 8.2.4 進行模型加速、NVIDIA Triton 推理服務器 22.04 在 K8S 上進行模型部署與編排。

長鏈路(多達 20+ 個模型的 pipeline)意味著長耗時,若基于 CPU 推理的話,pipeline 耗時會長達 15 秒左右,通過 GPU 推理和 TensorRT 加速,成功將耗時降低到了 2.4 秒左右。

模型部署的時候,常見的做法是推理與業務代碼(前后處理)放在一個進程空間里,每個模型需要在每個進程中加載一次,由于顯存的限制,很多時候難以得到較高的單卡 GPU 使用率。就算采用了進程池的方式提高了單卡的 GPU 利用率,也會因 CPU 的限制,出現機器整體的 GPU 利用率不高。而在引入了 Triton 推理服務器進行推理部署后,將推理與業務代碼解耦,初步實現將 GPU 資源池化調度。最終在同等業務規模情況下,部署成本節省了 23%。

模型耗時

718fdc70-167e-11ee-962d-dac502259ad0.png

表1 模型耗時

模型吞吐量對比圖

71b7a9d0-167e-11ee-962d-dac502259ad0.png

71ea4c8c-167e-11ee-962d-dac502259ad0.png

721f1700-167e-11ee-962d-dac502259ad0.png

WPS 生成式 AI最新進展

WPS AI 緊跟業界潮流,再發布新 AI 能力,覆蓋文字、表格、PPT、PDF 四大辦公組件。這部分 AI 新能力集中在閱讀理解、問答、人機交互等方面。在 PPT 中,WPS AI 現已支持輸入主題,一鍵生成 PPT 演示文稿,并會根據用戶要求進行細化調節,如更改主題風格、單頁美化、更改字體、更改配色、生成演講稿等等。

在 PDF 中,WPS 則展示了閱讀分析和理解能力。WPS AI 能夠閱讀包括論文、合同、課件等文檔,用戶以問答方式則可以獲得關鍵信息。并且,問答助手也會提供文檔溯源功能,確保用戶能夠得知信息來源。

用戶能夠通過手機等移動設備拍攝相關文檔,而后 WPS 給出相關翻譯、概括、分析等功能。

圖 1. WPS-AI 隨手拍與文檔問答

728779a8-167e-11ee-962d-dac502259ad0.jpg

圖 2. WPS-AI 大綱生成

圖 3. WPS-AI PPT 美化

圖 4. WPS-AI PPT 生成

使用效果及影響

金山辦公圖像文檔識別與理解業務,通過采用 NVIDIA T4 Tensor Core GPU TensorRT加速,相比于 CPU 其 pipleline 耗時共下降 84%;而采用 NVIDIA Triton 推理服務器部署,其部署成本節省了 23% 。

金山辦公 CV 團隊總監熊龍飛表示:”我們有多個業務后邊的 AI 服務已經通過采用該方案提高了速度和資源利用率,不僅給用戶端帶去了更高的速度響應,提高了用戶體驗,也為公司節約了大量的服務端 GPU 資源,收獲了更高的效益。我們在文檔識別與理解領域的應用案例也可以啟發到 OCR 和版式識別領域的其他公司和學者,相信隨著更多客戶通過采用 TensorRT 加速會給行業帶來很大的收益。”

*本文中圖片均來源于金山辦公,如果您有任何疑問或需要使用本文中的圖片,請聯系金山辦公

點擊“閱讀原文”,或掃描下方海報二維碼觀看 NVIDIA 創始人兼 CEO 黃仁勛在 COMPUTEX 2023 的主題演講直播回放,主題演講中文字幕版已上線,了解 AI、圖形及其他領域的最新進展!


原文標題:NVIDIA GPU 加速 WPS Office AI 服務,助力打造優質的用戶體驗

文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英偉達
    +關注

    關注

    22

    文章

    3771

    瀏覽量

    90992

原文標題:NVIDIA GPU 加速 WPS Office AI 服務,助力打造優質的用戶體驗

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    《CST Studio Suite 2024 GPU加速計算指南》

    - smi啟用或禁用。 - 其他:還介紹了獨占計算模式、顯示鏈接、組合MPI計算和GPU計算、服務用戶GPU計算使用Windows遠程桌面、運行多個模擬、視頻卡驅動、操作條件、最
    發表于 12-16 14:25

    NVIDIA加速AI在日本各行各業的應用

    企業借助基于 NVIDIA AI Enterprise 與 Omniverse 工業 AI 構建的創新中心和服務加速
    的頭像 發表于 11-19 15:45 ?224次閱讀

    賴耶科技通過NVIDIA AI Enterprise平臺打造超級AI工廠

    NVIDIA 技術團隊保持合作。賴耶科技通過NVIDIA AI Enterprise平臺打造的超級 AI 工廠,致力于
    的頭像 發表于 11-19 14:55 ?362次閱讀

    NVIDIA助力Amdocs打造生成式AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配模型的解決方案。該公司還在使用NVIDIA
    的頭像 發表于 11-19 14:48 ?329次閱讀

    日本企業借助NVIDIA產品加速AI創新

    日本領先企業和大學正在使用 NVIDIA NeMo、NIM 微服務NVIDIA Isaac 加速 AI 創新。
    的頭像 發表于 11-19 14:34 ?284次閱讀

    NVIDIA助力麗蟾科技打造AI訓練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業和科研機構提供了一套高效、靈活的 AI 訓練與推理加速解決方案。無論是在復雜的
    的頭像 發表于 10-27 10:03 ?209次閱讀
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>助力</b>麗蟾科技<b class='flag-5'>打造</b><b class='flag-5'>AI</b>訓練與推理<b class='flag-5'>加速</b>解決方案

    NVIDIA與思科合作打造企業級生成式AI基礎設施

    NVIDIA 加速計算平臺、NVIDIA AI Enterprise 軟件和 NVIDIA NIM 推理微
    的頭像 發表于 10-10 09:35 ?340次閱讀

    NVIDIA加速計算和 AI助力數字銀行揭穿金融欺詐騙局

    Bunq 利用 NVIDIA AI 將其欺詐檢測模型的訓練速度提高近百倍。 ? 歐洲新型銀行 Bunq 正在 NVIDIA 加速計算和 AI
    的頭像 發表于 06-27 17:41 ?840次閱讀

    HPE 攜手 NVIDIA 推出 NVIDIA AI Computing by HPE,加速生成式 AI 變革

    by HPE 包含了可持續的加速計算產品組合以及全生命周期服務,將簡化 AI 創造價值的過程,加速生成式 AI 的發展步伐。
    的頭像 發表于 06-21 14:39 ?359次閱讀

    NVIDIA推出NVIDIA AI Computing by HPE加速生成式 AI 變革

    作為極具開創性的一站式“交鑰匙”私有云人工智能(private-cloud AI)解決方案,NVIDIA AI Computing by HPE 包含了可持續的加速計算產品組合以及全生
    的頭像 發表于 06-20 17:36 ?714次閱讀

    NVIDIA發布DeepStream 7.0,助力下一代視覺AI開發

    NVIDIA DeepStream 是一款功能強大的 SDK,能夠提供用于構建端到端視覺 AI 管線的 GPU 加速構建模塊。
    的頭像 發表于 05-23 10:09 ?631次閱讀
    <b class='flag-5'>NVIDIA</b>發布DeepStream 7.0,<b class='flag-5'>助力</b>下一代視覺<b class='flag-5'>AI</b>開發

    利用NVIDIA組件提升GPU推理的吞吐

    本實踐中,唯品會 AI 平臺與 NVIDIA 團隊合作,結合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)將推理的稠密網絡和熱
    的頭像 發表于 04-20 09:39 ?718次閱讀

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?576次閱讀

    HarmonyOS SDK 助力新浪新聞打造精致易用的新聞應用

    信號不佳及離線場景下,AI 朗讀能力依然能夠繼續使用;此外,通過應用服務領域開放的 Location Kit,新浪新聞還能夠準確快速獲取用戶所在地的新聞,讓用戶隨時隨地縱享流暢絲滑的聽
    發表于 02-07 15:51

    Supermicro推新AI存儲方案,助力AI和ML應用加速

    Supermicro首席執行官梁見后先生高瞻遠矚地指出:針對AI和ML應用的加速處理,我們推薦配置以每機柜20 PB高速閃存為主,配備四個NVIDIA HGX H100系列優化版8-GPU
    的頭像 發表于 02-03 14:46 ?624次閱讀
    主站蜘蛛池模板: 国产中的精品AV一区二区| 禁室培欲在线视频免费观看| 国产原创中文视频| 免费国产午夜理论不卡| 色综合精品无码一区二区三区| 亚洲国产综合久久精品| 60老妇性xxxxhd| 国产AV果冻传奇麻豆| 久久精品国产色蜜蜜麻豆国语版 | 国模丽丽啪啪一区二区| 麻花传媒XK在线观看| 特黄特色大片免费播放器9| 中文人妻熟妇精品乱又伦| 钉钉女老师| 久久亚洲精品中文字幕60分钟| 色噜噜视频影院| 67194免费入口| 国产伦精品一区二区免费| 美女搜查官被高难度黑人在线播放| 亚洲 日本 天堂 国产 在线 | 干丝袜美女| 麻豆国产精品va在线观看约| 无码国产成人777爽死| 99久久99久久精品免费看子| 国产亚洲精品久久久久久无码网站| 欧美xxxav| 伊人久久大香线蕉综合电影网| 国产AV白丝爆浆在线播放| 蜜臀AV精品一区二区三区| 亚洲国产在线精品国| 成年人视频在线免费看| 老司机福利在视频在ae8| 学生无码AV一区二区三区 | 插曲的痛30分钟视频最新章节| 九色PORNY丨视频入口| 天天操夜夜噜| xxx88中国| 免费观看99热只有精品| 亚洲字幕在线观看| 国产毛片视频网站| 涩涩电影网|