色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何在云原生網關上做流量防護?

OSC開源社區 ? 來源:阿里云云原生 ? 2023-08-24 09:52 ? 次閱讀

背景

Cloud Native

在分布式系統架構中,每個請求都會經過很多層處理,比如從入口網關再到 Web Server 再到服務之間的調用,再到服務訪問緩存或 DB 等存儲。在下圖流量防護體系中,我們通常遵循流量漏斗原則進行流量防護。在流量鏈路的每一層,我們都需要進行針對性的流量防護與容錯手段,來保障服務的穩定性;同時,我們要盡可能地將流量防護進行前置,比如將一部分 HTTP 請求的流量控制前置到網關層,提前將一部分流量進行控制,這樣可以避免多余的流量打到后端,對后端造成壓力同時也造成資源的浪費,為此,在網關側做流量防護是十分有必要的。

550c5ce4-41a4-11ee-a2ef-92fbcf53809c.png

在傳統的流量網關場景下,對流量進行訪問控制是一個很常見的需求。比如在 nginx 中,limit_req 就是一個最為常見的限流配置,而在 Envoy 中,也支持本地以及全局兩種模式的限流,但是二者均有其局限性。在功能的豐富度上,二者不及常見的限流組件開源項目,如 Sentinel 、Hystrix 等,在實際的使用場景中,實用性也很弱,比如不支持無性能損耗的集群限流等等。

云原生網關的流量防護功能,底層使用了 Sentinel 內核,并做了一定的強化和改造。Sentinel 是以流量與容錯為切入點,從流量控制、不穩定調用隔離、熔斷降級、熱點流量防護、系統自適應保護、集群流控等多個維度來幫助保障服務和網關的穩定性,同時提供秒級的流量監控分析功能。其商業化產品不僅在阿里內部淘寶、天貓等電商領域有著廣泛的應用,在互聯網金融、在線教育、游戲、直播行業和其他大型政央企行業也有著大量的實踐。

云原生網關作為集安全、流量、微服務三位于一體的下一代云上網關,在誕生之初,就被賦予了全場景使用的一個定位,為此流量防護也是其必備的一個能力,在流量防護能力上,具備以下優勢:

具備與流行的流量防護項目如 Sentinel、Hystrix 等同等豐富的流量防護功能,并且還在不斷迭代更新中。

天然支持均攤式的集群流控,使得用戶無需關心網關以及 Upstream 服務的節點數。

提供配套的秒級監控,并支持 QPS、拒絕 QPS 、異常 QPS 、RT 以及并發數等豐富的流量指標,同時支持歷史數據的查看,便捷地實現先觀測,再配防護規則的使用路徑。

流量防護規則秒級生效,配置防護規則后,無需等待,秒級生效。

Sentinel 流量模型介紹

Cloud Native

如下圖所示,流量防護是指,針對不同的流量,設置一道適合的屏障策略,在該屏障的觀測下,一旦判定該流量不能被通過,應該及時攔截,從而達到保護網關、以及后端 Upstream 服務的作用。

5520b4fa-41a4-11ee-a2ef-92fbcf53809c.png

云原生網關目前支持 QPS 限流、并發控制、熔斷三種不同的流量防護能力,本文將從這三個功能分別去闡述其具體的效果,以及適用的場景。

QPS 限流

這是流量防護最通用的一個場景,顧名思義,就是限制某個路由的流量,使其只能在一定的速率內訪問網關,防止某個路由流量激增,造成后端服務的崩潰。云原生網關不僅支持路由級別的限流,而且天然支持均攤式的集群流控,用戶無需關心網關節點的數量或者后端服務節點的數量,只需要配置一個總體的閾值,就可以輕松實現對某個路由的總體閾值限流。

并發控制

并發控制的具體實現,是通過實時維護一個并發值(這個值指的是一秒內,該路由流量的最大并行值,即未完成的請求數量),一旦下一個請求超過了設定的閾值,就攔截該請求。該功能不同于 QPS 限流,即使是在 QPS 較低的場景下,也能保證關鍵的資源,不被持續累積的慢調用所占用,而導致服務不可用,比如后端 Upstream 服務的線程池以及數據庫資源等等,假設長期被占用,就會導致該 Upstream 服務出現異常。和 QPS 限流類似,云原生網關天然支持均攤式集群并發限流,只需配置一個總體的并發閾值,就可以實現對某個路由的總體并發控制。

熔斷

在 Sentinel 、Hystrix 等限流項目中,都能見到該功能,就如字面上的意義,熔斷是指,在路由的流量出現了某個異常狀態,需要及時熔斷該流量,從而保證與該路由相關 Upstream 服務能夠高效穩定的運行,而不受某個異常路由流量的影響。

熔斷機制背后對應熔斷器模型 (Circuit Breaker)。當調用處于某種不穩態(通常是出現異常或慢調用)達到一定程度(通常關注比例而不是絕對量),熔斷開啟 (OPEN),所有的請求都會 fallback 掉;過一段時間后進入探測恢復階段 (HALF-OPEN),放過一定數量的請求,以這些請求的情況來 indicate 下游服務的恢復情況,若這些請求達到穩態,則恢復對應調用 (CLOSED);否則重回熔斷狀態,具體原理如下圖所示: 5534ab0e-41a4-11ee-a2ef-92fbcf53809c.png

另外,云原生網關的流量防護能力底層是基于 Sentinel 的毫秒級滑動窗口精確統計,為此,云原生網關的流量防護功能界面也配套了一個秒級監控系統,可以通過觀測=>發現問題=>創建防護規則這個使用路徑去更好地在云原生網關上創建流量防護規則。

如何在云原生網關上進行流量防護

Cloud Native

QPS 限流

下面,我們將動手去實踐,在云原生網關上去使用上述的三大流量防護功能。

首先,進入到云原生網關實例中的路由配置界面,選擇“策略配置”里的“限流”選項,手動給這個路由注入一個 QPS 10000 左右的流量,在配套的秒級監控可以看到 5 分鐘內該路由的 QPS 情況。

55c0f0dc-41a4-11ee-a2ef-92fbcf53809c.png

在秒級監控的下方,可以看到流控規則、并發規則,熔斷規則三個配置項,首先先配置一條限流規則,具體參數如下圖所示:

55efc664-41a4-11ee-a2ef-92fbcf53809c.png

打開開啟開關并點擊保存按鈕,就順利加入了一個 QPS 限流策略,這個策略的含義是,當路由流量的總 QPS 達到 5000 的時候,統計窗口內下一個到來的流量會被拒絕,拒絕的行為是,返回一個HTTP包,返回碼是 429 ,內容是一個 JSON 格式的文本,內容是:


{
  "context": "just for test"
}
此時再返回查看秒級監控,就可以看到如下的曲線圖:

5615dcd2-41a4-11ee-a2ef-92fbcf53809c.png

并發控制

并發規則也是類似,只不過,控制值由 QPS 變成并發數,具體的參考配置參數如下:

564b59e8-41a4-11ee-a2ef-92fbcf53809c.png

返回查看秒級監控,既可以看到以下的結果:

56711d68-41a4-11ee-a2ef-92fbcf53809c.png ?

熔斷

熔斷規則的配置較為復雜,具體的含義可以查看配置界面的說明,具體的參考配置如下:

56799182-41a4-11ee-a2ef-92fbcf53809c.png

這個規則的具體含義是,在 20 秒的統計窗口內,從第 5 個請求之后,開始統計慢調用的比例,一旦比例超過 20% ,立馬熔斷該路由的流量,其中慢調用的定義為 RT 超過 1 ms 的請求。配置完成之后,監控的表現如下圖的所示:

56874bc4-41a4-11ee-a2ef-92fbcf53809c.png

上述的例子只是為了演示效果,在實際生產環境中,需要更為謹慎的去定義慢調用比例以及熔斷時長等參數,否則可能會導致后端服務整體不可用,是一個風險較高的流量防護功能。除了慢調用比例之外,還支持異常比例的熔斷條件判斷,異常的定義是指 HTTP 調用發生 5XX 的情況。

總結

Cloud Native

本文詳盡地介紹了如何在云原生網關上做流量防護,包括在不同的場景下該配置何種防護規則,并給出了詳細的使用路徑,可以從中體驗出云原生網關的流量防護功能相對于其它網關產品限流功能的優勢。作為云上網關的核心功能之一,后續我們也會持續強化流量防護功能,也歡迎大家持續關注阿里云官網的 MSE 微服務引擎產品動態。





審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 存儲器
    +關注

    關注

    38

    文章

    7484

    瀏覽量

    163766
  • 熔斷器
    +關注

    關注

    6

    文章

    470

    瀏覽量

    31561
  • 緩存器
    +關注

    關注

    0

    文章

    63

    瀏覽量

    11658
  • QPS
    QPS
    +關注

    關注

    0

    文章

    24

    瀏覽量

    8800
  • HTTP接口
    +關注

    關注

    0

    文章

    21

    瀏覽量

    1790

原文標題:基于云原生網關的流量防護實踐

文章出處:【微信號:OSC開源社區,微信公眾號:OSC開源社區】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    性能提升1倍,成本直降50%!基于龍蜥指令加速的下一代云原生網關

    主導的云原生時代,下一代的網關模式仍然會是傳統的流量網關與微服務網關的兩層架構嗎?帶著這個問題,并結合阿里巴巴內部沉淀的
    發表于 08-31 10:46

    只需 6 步,你就可以搭建一個云原生操作系統原型

    優化業務調度能力 。最后一步當我們擁有了這樣的一套系統,我們如何才能把它安裝部署起來?設想一下,當我們面臨一千臺虛擬機的集群需要部署一個云原生系統的時候,我們該怎么?難道我們需要一臺一臺地安裝各種
    發表于 09-15 14:01

    華為云發布云原生基礎設施,云原生2.0時代正式開啟

    早在2010年,Paul Fremantle在一篇博客文章中首次提到了Cloud Native(云原生)。當時的云原生特指適合云計算模式的應用程序編寫方式。可能Paul Fremantle也不會想到,十年過去了,云原生會引領IT
    的頭像 發表于 09-30 11:25 ?2249次閱讀

    云原生應用中的“云”指的是什么?

    云原生應用是獨立的小規模松散耦合服務的集合,旨在提供備受認可的業務價值,例如快速融合用戶反饋以實現持續改進。簡而言之,通過云原生應用開發,您可以加速構建新應用,優化現有應用并在云原生架構中集成。其
    的頭像 發表于 11-27 17:24 ?2210次閱讀

    華為云正式提出云原生2.0的概念

    華為云發布云原生產業白皮書,并提出云原生2.0的概念。
    的頭像 發表于 12-07 11:51 ?3737次閱讀

    引領云原生2.0時代,賦能新云原生企業

    十年云計算浪潮下,DevOps、容器、微服務等技術飛速發展,云原生成為潮流。Forrester首席分析師戴鯤表示,云原生是企業數字化轉型的基礎,企業需要建立云原生優先的戰略,構建一體化全棧云原
    的頭像 發表于 12-11 16:04 ?1818次閱讀

    云原生2.0時代 我們還要做什么?

    華為云自2015年以創始會員的身份參與了云原生計算基金會的組建,在過去的這5年時間里,華為云全面見證了云原生技術和產業的興起和發展:開源項目能力的完善期、云原生產業的發展與融合期,再到如今,
    的頭像 發表于 12-21 13:36 ?1822次閱讀

    如何更好地構建云原生應用生態,推動業界更好地落地云原生

    ? 近年來,“云原生”成為炙手可熱的概念,云原生技術在制造、政務、電信、金融等垂直行業的應用占比也在快速攀升,有力地支撐了業務系統重構,越來越多的企業和開發者開始把業務與技術向云原生演進。 ? 中國
    的頭像 發表于 12-24 11:13 ?2608次閱讀

    解讀騰訊云原生 鵝廠云原生的“新路”與“歷承”

    在云計算產業中,云原生是一個長期討論的“老話題”。而在今年新基建、產業數字化的宏觀背景下,云原生的應用主體開始擴張,關于這條技術路徑的討論也重新火熱了起來。 云原生突然“翻紅”的原因,或許在于更多
    的頭像 發表于 12-28 18:10 ?3498次閱讀

    華為云中什么是云原生服務中心

    云原生服務中心(Operator Service Center,OSC)是面向服務提供商和服務使用者的云原生服務生命周期治理平臺,提供大量的云原生服務,并使用自研部署引擎,支持所有服務包統一管理
    發表于 07-27 15:44 ?700次閱讀
    華為云中什么是<b class='flag-5'>云原生</b>服務中心

    什么是分布式云原生

    體驗,讓客戶在使用云原生應用時,感受不到地域、跨云、流量的限制,把云原生的能力帶入到企業的每一個業務場景,加速千行百業擁抱云原生。 分布式云原生
    發表于 07-27 15:52 ?1568次閱讀

    Java與云原生的矛盾原因

    前陣子在 B 站刷到了周志明博士的視頻,主題是云原生時代下 Java,主要內容是云原生時代下的挑戰與 Java 社區的對策。
    的頭像 發表于 10-31 11:15 ?1282次閱讀

    京東云原生安全產品重磅發布

    “安全產品那么多,我怎么知道防住了?”“大家都說自己是云原生的,我看都是換湯不換藥”在與客戶溝通云原生安全方案的時候,經常會遇到這樣的吐槽。越來越的客戶已經開始了云原生化的技術架構改造,也意識到
    的頭像 發表于 07-26 10:36 ?468次閱讀
    京東<b class='flag-5'>云原生</b>安全產品重磅發布

    云原生和非云原生哪個好?六大區別詳細對比

    云原生和非云原生各有優劣,具體選擇取決于應用場景。云原生利用云計算的優勢,通過微服務、容器化和自動化運維等技術,提高了應用的可擴展性、更新速度和成本效益。非云原生則可能更適合對延遲敏感
    的頭像 發表于 09-13 09:53 ?382次閱讀

    什么是云原生MLOps平臺

    云原生MLOps平臺,是指利用云計算的基礎設施和開發工具,來構建、部署和管理機器學習模型的全生命周期的平臺。以下,是對云原生MLOps平臺的介紹,由AI部落小編整理。
    的頭像 發表于 12-12 13:13 ?83次閱讀
    主站蜘蛛池模板: 午夜伦伦电影理论片费看| 亚洲永久精品ww47| 国产乱人视频在线观看| 摥管专用动态图399期| 国产在线观看免费| 亚洲AV无码专区国产精品麻豆| 公和我做好爽添厨房中文字幕 | 羞羞一区二区三区四区片| 动漫美女喷水| 亚洲欧洲日产国码中学| 久在线观看福利视频| 成电影人免费网站| 亚洲 欧美 国产 伦 综合| 久久亚洲国产精品亚洲| ping色堂| 亚洲视频免费| 欧美写真视频一区| 国产欧美日韩亚洲第一页| 中文在线观看| 色在线视频亚洲欧美| 快播金瓶梅| 国产精品青青青高清在线密亚 | 色婷婷欧美在线播放内射| 黄色大片aa| 国产不卡无码高清视频| 最新高清无码专区| 亚洲国产精品一区二区动图| 欧美牲交A欧美牲交| 久久精品国产亚洲AV久五月天| 成人国产亚洲欧美成人综合网 | 插骚妇好爽好骚| 亚洲伊人网站| 午夜精品国产自在现线拍| 欧美精品成人a多人在线观看| 久久久精品成人免费看| 国产成人精品综合在线观看| 99久久精品国内| 799是什么意思网络用语| 亚洲中文字幕在线精品| 亚洲合集综合久久性色| 我与旗袍老师疯狂床震|