色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

基于一種用于JumpStarter的抗離群的采樣算法

SSDFans ? 來源:SSDFans ? 2023-07-05 10:30 ? 次閱讀

隨著在線服務系統(tǒng)的蓬勃發(fā)展,多元時間序列的異常檢測,例如CPU利用率的組合,平均響應時間和每秒請求,對于系統(tǒng)可靠性很重要。盡管為此目的設計了一系列基于學習的方法,但實證研究表明,這些方法遭受了長時間的初始化時間,以獲得足夠的培訓數(shù)據(jù)。本文壓縮感測技術引入了多元時間序列異常檢測,以快速初始化。為了構(gòu)建跳躍異常檢測器,提出了一種名為Jumpstarter的方法。基于域特異性見解,設計了一種基于形狀的聚類算法以及一種用于JumpStarter的抗離群的采樣算法。

背景及動機

1、多元時間序列

在在線服務系統(tǒng)中,操作員不斷收集多個指標的監(jiān)視數(shù)據(jù),或從日志中提取數(shù)值。服務水平度量(例如,平均響應時間)或機器級度量(例如CPU利用率,內(nèi)存利用率)通常是通過相等的間隔收集的,形成單變量時間序列。但是,任何單變量時間序列都無法捕獲系統(tǒng)的所有類型的性能問題。由于系統(tǒng)通常具有監(jiān)視指標的集合,因此可以表示為多變量時間序列,其中包括各種類型的單變量時間序列,從而跟蹤性能問題的各個方面。隨著系統(tǒng)的規(guī)模和復雜性的增加,手動檢查系統(tǒng)異常變得越來越困難。因此,多元時間序列異常檢測非常重要。

2、異常檢測

使用多元時間序列的異常檢測在線服務系統(tǒng)中很重要。在以前的異常檢測工作中,操作員在以下幾點上有一個粗略的共識:

1)多元時間序列異常是數(shù)據(jù)點或數(shù)據(jù)段,它顯著偏離了操作員對操作員的期望正常行為,可以在視覺上觀察到。

2)異常表明可能出現(xiàn)問題,盡管仍需要進一步調(diào)查進行驗證。

3)異常檢測通常用作失敗發(fā)現(xiàn)機制。

初始化時間的實證研究

1、異常檢測初始化時間

在部署或更新的新服務時,運營商通常為其啟動一種異常檢測方法。如圖所示,異常檢測方法的初始化時間是啟動何時(T1)到有效的時間(T2)。

d9f97ac2-1ac6-11ee-962d-dac502259ad0.png

許多先前方法使用基于學習的工作流來檢測異常。通常,它們是根據(jù)歷史數(shù)據(jù)進行定期培訓的。這些方法的初始化時間,例如數(shù)十天相對較長,因為它們通常需要提供大量的歷史數(shù)據(jù)進行培訓。在表中,列出了不同數(shù)據(jù)集上五種基于學習的異常檢測方法的建議初始化時間。

da12fe8e-1ac6-11ee-962d-dac502259ad0.png

2、增量再訓練

考慮到基于學習的異常檢測方法的漫長初始化時間,人們可能建議逐步保留,即逐漸(逐步)添加一個短期(例如一天)數(shù)據(jù)來訓練這些方法。這樣,我們可以逐步提高這些方法的性能。每次添加一天的數(shù)據(jù)是因為這些基于學習的方法至少需要數(shù)千個數(shù)據(jù)點來收斂。然后,嘗試將增量再培訓應用于最新的多元時間序列檢測方法,即全曲率和mecred。

這聽起來很理想,但是使用增量再培訓的異常檢測不能確保令人滿意的性能。圖中顯示了隨著訓練數(shù)據(jù)的增加(日復一日)的增加,F(xiàn)1的平均得分和訓練時間。從圖中,可以看到,使用更多的訓練數(shù)據(jù),以及使用更多的訓練數(shù)據(jù),直到將10天的數(shù)據(jù)用于培訓,它們才收斂。一個主要原因是,這些基于學習的方法必須從大量培訓數(shù)據(jù)中明確學習多元時間序列的概率分布,以捕獲其正常行為。圖中表明,訓練時間隨訓練數(shù)據(jù)的規(guī)模線性增加。當培訓數(shù)據(jù)集包含10天的數(shù)據(jù)時,大約需要35分鐘才能訓練。因此,這些方法由于其非舒適性和相當大的培訓成本而不適合新部署或更新的系統(tǒng)。

da699eba-1ac6-11ee-962d-dac502259ad0.png

Jumpstarter方法

1、關鍵思想和挑戰(zhàn)

為了處理上述基于學習方法的局限性,將壓縮感測(CS)用于多變量時間序列異常檢測。CS是一種信號處理技術,用于從一系列采樣測量結(jié)果中重建信號。從這些樣品中重建的信號保留了原始信號的高能量成分,在某些輕度假設下概率很高。可以通過檢查重建信號是否與原始信號(多元時間序列)存在超過白噪聲的不同,來確認檢測異常。由于CS不需要任何訓練,因此基于CS的異常檢測的初始化時間是窗口大小W。

有兩個方式來進行信號重建:

1、將多變量時間序列視為一個N×W的矩陣。

2、將多變量時間序列視為N個長度為W的單變量序列。

結(jié)果如圖所示,第一種方式,對數(shù)據(jù)隨機采樣并進行重建之后,出現(xiàn)前兩維數(shù)據(jù)在全時間跨度內(nèi)重建序列和原始序列都差異較大的情況。

第二種方式,原始和重建的單變量時間序列之間的差異表現(xiàn)為正常段中的白噪聲和異常的大波動,可準確捕獲每個單變量時間序列的異常。但是,它無法捕獲多元時間序列之間的復雜關系。此外,由于大量單變量時間序列的挑戰(zhàn),單獨的重建在計算上更昂貴。

da792f60-1ac6-11ee-962d-dac502259ad0.png

2、概述

daaaa6c6-1ac6-11ee-962d-dac502259ad0.png

1、采用一種基于形狀的聚類方法將多元時間序列的單變量時間序列分組為離線處理中的幾個組。

2、滑動窗口技術應用于在線異常檢測中的多元時間序列。

3、對于每組單變量時間序列,使用一種新型的抗異常值采樣算法來解決來自異常段采樣引入的挑戰(zhàn),并應用壓縮感測來重建它們。之后,比較原始時間序列和重建的多元時間序列,并使用EVT閾值對異常得分進行異常確定。

3、Shape-Based Clustering

先前提到的兩種方式都存在自己的問題。特別是第一種方式無法很好的在不同形狀的維度上進行重建,因此一種方式就是按照形狀將多元分為幾個群集進而重建每個群集。

采用基于形狀的距離(已有相關工作),是一種基于跨相關的方法,以測量兩個單變量時間序列之間的距離。在處理高維度序列時,它可以實現(xiàn)高計算效率。表中說明了聚類結(jié)果的示例。多元時間序列的九個單變量時間序列分為三個群集。在每個集群中,時間序列與其相應監(jiān)視指標的物理含義相關,表明這個方法是直觀有效的。

daf8eae8-1ac6-11ee-962d-dac502259ad0.png

基于一日數(shù)據(jù)的每個多變量時間序列將單變量時間序列集成,因為大多數(shù)單變量時間序列大致與24小時的周期大致相同,與客戶的企業(yè)使用模式相吻合。此外,在軟件更改后,單變量時間序列的形狀通常保持不變。因此,在軟件更改后,它無需重新群集。

4、Outlier-Resistant Sampling

db29be3e-1ac6-11ee-962d-dac502259ad0.png

異常通常是觀察窗口(滑動)窗口中的異常值。如果異常的持續(xù)時間比窗口大小更長,則可以從一開始就捕獲,因為它與正常模式顯著不同。因此,可以采用簡單的離群檢測算法來獲得每個數(shù)據(jù)點的采樣置信度。數(shù)據(jù)點可能越高,其采樣置信度越低,選擇的可能性就越小。基于這種見解,文章設計了一種抗離群的抽樣算法,即一維隨機高斯,它不僅可以保證撕裂,而且還可以抵抗異常值。

從圖中的result部分可以看出最后得到的兩個樣本點,盡管綠色的取樣點位于原始時間序列的異常段,但是得到的樣本點依舊穩(wěn)定。

db659c06-1ac6-11ee-962d-dac502259ad0.png

4、Compressed Sensing Reconstruction

壓縮傳感理論首先將信號投影到一個低維的信號空間,然后通過解一個基于凸優(yōu)化的非線性恢復算法將信號恢復,而僅僅需要很少的數(shù)據(jù),文章使用了CVXPY這個凸優(yōu)化算法。

5、異常得分

使用歐幾里得距離計算兩個時間序列之間的差異得分。

6、選擇閾值

要正確生成異常警報,需要準確選擇一個閾值,以確定異常得分是否足夠高以觸發(fā)警報。靜態(tài)閾值無法正常工作,因為數(shù)據(jù)分布會隨時間變化。由于JumpStarter產(chǎn)生的異常得分的極值通常代表異常,因此采用廣泛使用的極值理論(EVT)自動調(diào)整異常閾值。EVT是一種旨在找到極值定律的統(tǒng)計理論,并且不假定數(shù)據(jù)分布。已證明它可以準確選擇異常檢測方法的閾值。

實驗

實驗部分主要解決以下研究問題:RQ1:Jumpstarter在多元時間序列序列檢測中的表現(xiàn)如何?RQ2:每個組件是否有助于Jumpstarter?RQ3:Jumpstarter的主要參數(shù)如何影響其性能?數(shù)據(jù)集的情況如下圖所示。

dba2598e-1ac6-11ee-962d-dac502259ad0.png

RQ1: Performance of JumpStarter

dbd1d4f2-1ac6-11ee-962d-dac502259ad0.png

可以看到,在在線實驗中,JumpStarter的性能明顯優(yōu)于所有三個數(shù)據(jù)集中所有段的四個基線方法。

接下來是軟件更改后的異常檢測。

dc093cbc-1ac6-11ee-962d-dac502259ad0.png

上圖顯示了軟件更改后五種方法的平均FPR,所有這些方法遇到的軟件更改都發(fā)生在圖中的第七分鐘。可以觀察到,在這些軟件更改后,所有五種方法都會產(chǎn)生誤報。但是,JumpStarter僅遭受大約五分鐘的高FPR,此后其FPR變得很低。

dc265414-1ac6-11ee-962d-dac502259ad0.png

同時可以看到JumpStarter的準備時間和運行時間都比較少。

RQ2: Contributions of Components

dc3738b0-1ac6-11ee-962d-dac502259ad0.png

通過去除各個步驟得到的F1-score來看,基于形狀的聚類和抗異常值的采樣的組合有助于準確有效。

RQ3: Parameter Sensitivity

JumpStarter的初始化時間取決于檢測窗口大小w。我們從經(jīng)驗上將窗戶尺寸從十分鐘增加到60分鐘。圖中顯示了隨著窗口尺寸的增加,Jumpstarter的平均最佳F1分數(shù)和連桿檢測時間如何變化。在窗口大小達到20分鐘之前,Jumpstarter的準確性會增加,之后它變得穩(wěn)定,而檢測時間逐漸增加。因此,窗口尺寸為二十分鐘,這使Jumpstarter既準確又有效。請注意,對于那些持續(xù)超過20分鐘的異常,Jumpstarter仍然能夠檢測到它們,因為它可以在啟動時很容易捕獲這些異常。

dc497f7a-1ac6-11ee-962d-dac502259ad0.png

JumpStarter的另一個重要參數(shù)是初始采樣率σ。圖中顯示了f1的平均最佳F1分數(shù)和跳躍體的點檢測時間如何隨著σ的增加而變化。同樣,當采樣率從0.1增加到0.2時,JumpStarter的F1得分會增加,此后變得穩(wěn)定。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 檢測器
    +關注

    關注

    1

    文章

    863

    瀏覽量

    47678
  • 數(shù)據(jù)

    關注

    8

    文章

    7002

    瀏覽量

    88943
  • 機器
    +關注

    關注

    0

    文章

    780

    瀏覽量

    40711

原文標題:JumpStarter:在線服務系統(tǒng)中的多元時間序列異常檢測

文章出處:【微信號:SSDFans,微信公眾號:SSDFans】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關推薦

    一種改進的DSP固定點采樣算法

    一種改進的DSP固定點采樣算法
    發(fā)表于 08-20 23:34

    一種基于高效采樣算法的時序圖神經(jīng)網(wǎng)絡系統(tǒng)介紹

    成為了非常重要的問題。 基于以上問題,本文提出了一種基于高效采樣算法的時序圖神經(jīng)網(wǎng)絡系統(tǒng) 。首先我們介紹用于時序圖神經(jīng)網(wǎng)絡采樣的高效
    發(fā)表于 09-28 10:34

    一種基于查詢前綴的快速沖突算法

    基于閱讀器發(fā)送的查詢前綴和電子標簽的響應后綴,提出一種新的射頻識別(RFID)標簽識別算法,用以解決RFID仲裁過程中的零標簽響應問題。通過實驗驗證,與Memoryless沖突算法
    發(fā)表于 04-01 09:40 ?10次下載

    一種基于過采樣的單通道MPSK信號盲分離算法

    針對單通道接收兩個MPSK 混合信號的盲分離問題,該文提出了一種基于過采樣的盲分離新算法。該算法基于最優(yōu)貝葉斯估計準則,利用粒子濾波對發(fā)送的符號和
    發(fā)表于 11-21 11:46 ?36次下載

    一種改進的DSP固定點采樣算法

    一種改進的DSP固定點采樣算法 摘要:高頻開關動作產(chǎn)生的振蕩對數(shù)字采樣定的影響,以Boost型PFC電路為例,分析了受
    發(fā)表于 07-08 11:01 ?562次閱讀

    基于數(shù)據(jù)集對象平均離群因子的離群點選擇算法

    基于數(shù)據(jù)集對象平均離群因子的離群點選擇算法_朱付保
    發(fā)表于 01-03 17:41 ?0次下載

    局部密度離群點檢測算法

    已有的密度離群點檢測算法LOF不能適應數(shù)據(jù)分布異常情況離群點檢測,INFLO算法雖引入反向五近鄰點集有效地解決了數(shù)據(jù)分布異常情況的離群點檢測
    發(fā)表于 11-25 09:34 ?6次下載
    局部密度<b class='flag-5'>離群</b>點檢測<b class='flag-5'>算法</b>

    一種基于MapReduce的圖結(jié)構(gòu)聚類算法

    圖結(jié)構(gòu)聚類(SCAN)是一種著名的基于密度的圖聚類算法。該算法不僅能夠找到圖中的聚類結(jié)構(gòu),而且還能發(fā)現(xiàn)圖中的Hub節(jié)點和離群節(jié)點。然而,隨著圖數(shù)據(jù)規(guī)模越來越大,傳統(tǒng)的SCAN
    發(fā)表于 12-19 11:05 ?0次下載
    <b class='flag-5'>一種</b>基于MapReduce的圖結(jié)構(gòu)聚類<b class='flag-5'>算法</b>

    一種散亂點云近離群點的識別算法

    針對原始曲面變化度的局部離群系數(shù)( SVLOF)無法有效濾除三維實體的棱邊或棱角處的離群點問題,提出了一種散亂點云近離群點的濾除算法。該
    發(fā)表于 01-12 16:44 ?0次下載

    一種信號矢量分解的采樣濾波移動節(jié)點定位算法

    成的思想,提出了一種信號矢量分解的采樣濾波移動節(jié)點定位算法.該算法通過建立直角坐標系,分解合成移動節(jié)點、樣本點與信標節(jié)點間的信號矢量,利用誤差圓環(huán)
    發(fā)表于 02-09 14:01 ?0次下載

    一種噪性強的改進Prony算法

    針對噪聲背景下經(jīng)典Prony算法對多正弦信號頻率估計受限的問題,提出一種噪性強的改進Prony算法。通過建立一種新的累積關系,提出的
    發(fā)表于 03-28 14:31 ?1次下載
    <b class='flag-5'>一種</b><b class='flag-5'>抗</b>噪性強的改進Prony<b class='flag-5'>算法</b>

    一種新型的高維數(shù)據(jù)流離群點快速檢測算法

    現(xiàn)有數(shù)據(jù)流離群點檢測算法在面對海量高維數(shù)據(jù)流時普遍存在運算時間過長的問題。為此,提出一種引入局部向量點積密度的高維數(shù)據(jù)流離群點快速檢測算法
    發(fā)表于 03-17 16:18 ?12次下載
    <b class='flag-5'>一種</b>新型的高維數(shù)據(jù)流<b class='flag-5'>離群</b>點快速檢測<b class='flag-5'>算法</b>

    基于離群點檢測算法的電力市場異常行為辨識

    為了監(jiān)管電力市場中存在的各類違規(guī)行為,保證市場的公平竟爭,提岀了一種基于分階段離群點檢測算法的電力市場異常行為辨識方法。梳理不同交易階段異常行為的特征,提取相應的特征指標,采用主成分分析法對其進行降
    發(fā)表于 06-01 10:43 ?4次下載

    介紹一種基于中位數(shù)的離群值檢測方法

    Hampel濾波器是一種基于中位數(shù)的離群值檢測方法,它可以用于消除在數(shù)據(jù)中存在的離群值。
    的頭像 發(fā)表于 06-20 17:13 ?2089次閱讀
    介紹<b class='flag-5'>一種</b>基于中位數(shù)的<b class='flag-5'>離群</b>值檢測方法

    信號采樣算法原理是什么

    信號采樣一種將連續(xù)信號轉(zhuǎn)換為離散信號的過程,它是數(shù)字信號處理的基礎。本文將詳細介紹信號采樣算法原理,包括采樣過程、
    的頭像 發(fā)表于 07-15 14:20 ?759次閱讀
    主站蜘蛛池模板: 最新老头恋老OLDMAN| 亚洲国产日韩制服在线观看| 亚洲三级精品| 大地影院在线播放| 久久久久久免费高清电影 | 18禁三级黄| 国产偷国产偷亚洲高清app| 欧美黑人巨大xxxxx| 亚洲中字幕永久在线观看| 国产精品无码人妻在线| 欧美最猛黑人XXXXWWW| 中文无码热在线视频| 国产欧美日韩亚洲第一页| 日本伦理电影聚| 99国产精品欲AV蜜桃臀麻豆| 久久国产主播福利在线| 胸大美女又黄的网站| 国产 亚洲 另类 欧美 在线| 女王羞辱丨vk| 40岁东北老阿姨无码| 久99久热只有精品国产99| 亚洲AV色香蕉一区二区9255| 国产51麻豆二区精品AV视频| 欧美一区二区三区免费播放| 92午夜免费福利757| 快播dvd吧| 伊人色综合久久天天网| 黄色免费网址在线观看| 性色欲情网站IWWW| 国产精品久久久久久熟妇吹潮软件 | 亚洲毛片网| 国产热久久精| 污文乖不疼的| 公交车被CAO到合不拢腿| 日本人六九视频| 边摸边吃奶玩乳尖视频| 欧洲美女高清一级毛片| a在线观看免费视频| 欧美人与善交大片| 99视频这里只有精品国产| 嫩草影院精品视频在线观看|