色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

支持向量機(jī)的求解過(guò)程

RG15206629988 ? 來(lái)源:行業(yè)學(xué)習(xí)與研究 ? 2023-06-05 10:06 ? 次閱讀

一、支持向量機(jī)的求解過(guò)程

個(gè)人理解:下文所有下標(biāo)i、j均可相互替換,c和C表示同一常數(shù)。

支持向量機(jī)的對(duì)偶問(wèn)題為: 最大化:θ(α,β)=∑αi-1/2∑∑yiyjαiαjφ(Xi)Tφ(Xj);

限制條件:(1)0≤αi≤C,i=1~N;(2)∑αiyi=0,i=1~N。

因?yàn)棣?Xi)Tφ(Xj)=K(Xi,Xj)(K(Xi,Xj)為核函數(shù),詳見(jiàn)),所以只需知道核函數(shù)K(Xi,Xj)即可求解該對(duì)偶問(wèn)題。該對(duì)偶問(wèn)題解的結(jié)構(gòu)為一組αi的值(個(gè)人理解:αi的值同時(shí)也為αj的值),其中i=1~N。

解得αi的值后可根據(jù)ω=∑αiyiφ(Xi)求解ω的值(支持向量機(jī)問(wèn)題需解得超平面ωTφ(X)+b=0中的ω和b的值),但因?yàn)棣?Xi)不一定具有顯式表達(dá)式,所以ω不一定具有顯式表達(dá)式。

雖然ω不一定具有顯式表達(dá)式,但ωTφ(X)+b的形式可以通過(guò)核函數(shù)K(X1,X2)求得,下文介紹具體求解過(guò)程:

因?yàn)棣?∑αjyjφ(Xj),所以ωTφ(Xj)=∑αjyjφ(Xj)Tφ(Xi)=∑αjyjK(Xj,Xi)。

根據(jù)KKT條件(KKT條件見(jiàn)機(jī)器學(xué)習(xí)相關(guān)介紹(12)——支持向量機(jī)(原問(wèn)題和對(duì)偶問(wèn)題)),且持向量機(jī)的對(duì)偶問(wèn)題的另一個(gè)形式為: 最大化:θ(α,β)=inf{1/2||ω||2-C∑βiδi+∑αi[1+δi-yiωTφ(Xi)-yib]}; 限制條件:(1)αi≥0,i=1~N;(2)βi≥0,i=1~N。

可得:對(duì)所有的i=1~N,βiδi=0且αi[1+δi-yiωTφ(Xi)-yib]=0。

根據(jù)βiδi=0可得(c-αi)δi=0(個(gè)人理解:此步驟也需根據(jù)機(jī)器學(xué)習(xí)相關(guān)介紹(13)——支持向量機(jī)(轉(zhuǎn)化為對(duì)偶問(wèn)題)中求偏導(dǎo)得出的等式αi+βi=C)

若對(duì)某個(gè)i,αi≠0且αi≠c,則根據(jù)KKT條件,則有δi=0且1+δi-yiωTφ(Xi)-yib=0。

又因?yàn)閥iωTφ(Xi)=∑αiyjyiK(Xj,Xi),所以只需使用一個(gè)滿足0<αi<c的αi值,即可通過(guò)下式求得b: b=(1-∑αjyjyiK(Xj,Xi))/yi

綜上,ωTφ(X)+b=∑αiyiK(Xi,X)+b,即在不知道φ(X),只知道K(X1,X2)的情況下,ωTφ(X)+b的表達(dá)式也可被求出。該結(jié)論被稱為“核函數(shù)戲法”(KERNEL TRICK)。

最終,支持向量機(jī)的判別標(biāo)準(zhǔn)為: 若∑αiyiK(Xi,X)+b≥0,則X∈C1; 若∑αiyiK(Xi,X)+b<0,則X∈C2。

二、支持向量機(jī)的算法流程

(1)訓(xùn)練過(guò)程

輸入訓(xùn)練數(shù)據(jù){(Xi,yi)},i=1~N,其中,yi=±1。并求解: 最大化:θ(α,β)=∑αi-1/2∑∑yiyjαiαjφ(Xi)Tφ(Xj);

限制條件:

(1)0≤αi≤C,i=1~N;(2)∑αiyi=0,i=1~N。

得出一組αi的值,再通過(guò)一個(gè)滿足0<αi<c的αi值,根據(jù)下式求b: b=(1-∑αjyjyiK(Xj,Xi))/yi

求解出αi和b后,支持向量機(jī)的訓(xùn)練過(guò)程完成。

(2)測(cè)試過(guò)程

考察測(cè)試數(shù)據(jù)X,預(yù)測(cè)其類別y: 若∑αiyiK(Xi,X)+b≥0,則y=+1(X∈C1); 若∑αiyiK(Xi,X)+b<0,則y=-1(X∈C2)。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴

原文標(biāo)題:機(jī)器學(xué)習(xí)相關(guān)介紹(14)——支持向量機(jī)(算法流程)

文章出處:【微信號(hào):行業(yè)學(xué)習(xí)與研究,微信公眾號(hào):行業(yè)學(xué)習(xí)與研究】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    特征加權(quán)支持向量機(jī)

    該文針對(duì)現(xiàn)有的加權(quán)支持向量機(jī)(WSVM)和模糊支持向量機(jī)(FSVM)只考慮樣本重要性而沒(méi)有考慮特
    發(fā)表于 11-21 11:15 ?15次下載

    基于改進(jìn)支持向量機(jī)的貨幣識(shí)別研究

    首先,預(yù)抽取支持向量以減少訓(xùn)練樣本數(shù)量,大大縮減訓(xùn)練時(shí)間;然后,用縮減后的樣本對(duì)改進(jìn)后的分類支持向量機(jī)進(jìn)行貨幣識(shí)別,改進(jìn)后的
    發(fā)表于 12-14 14:57 ?14次下載

    基于改進(jìn)的支持向量機(jī)的脫機(jī)中文簽名驗(yàn)證

    針對(duì)支持向量機(jī)算法的不足,將粗糙集和支持向量機(jī)相結(jié)合,利用粗糙集理論對(duì)數(shù)據(jù)屬性進(jìn)行約簡(jiǎn),在某種程
    發(fā)表于 02-16 16:14 ?15次下載
    基于改進(jìn)的<b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b>的脫機(jī)中文簽名驗(yàn)證

    基于支持向量機(jī)(SVM)的工業(yè)過(guò)程辨識(shí)

    支持向量機(jī)應(yīng)用到典型的時(shí)變、非線性工業(yè)過(guò)程 連續(xù)攪拌反應(yīng)釜的辨識(shí)中, 并與BP 神經(jīng)網(wǎng)絡(luò)建模相比較, 仿真結(jié)果表明了支持
    發(fā)表于 03-30 16:12 ?42次下載
    基于<b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b>(SVM)的工業(yè)<b class='flag-5'>過(guò)程</b>辨識(shí)

    基于標(biāo)準(zhǔn)支持向量機(jī)的陣列波束優(yōu)化及實(shí)現(xiàn)

    ,研究了基于標(biāo)準(zhǔn)支持向量機(jī)的陣列波束優(yōu)化及其實(shí)現(xiàn)過(guò)程,并進(jìn)行了消聲水池實(shí)驗(yàn)。水池實(shí)驗(yàn)結(jié)果表明,對(duì)于相同的陣型,采用不同的價(jià)值損失函數(shù),基于標(biāo)準(zhǔn)支持
    發(fā)表于 11-10 11:03 ?13次下載
    基于標(biāo)準(zhǔn)<b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b>的陣列波束優(yōu)化及實(shí)現(xiàn)

    模糊支持向量機(jī)的改進(jìn)方法

    改進(jìn)了模糊支持向量機(jī)隸屬度函數(shù)設(shè)計(jì)方法。考慮樣本分布不確定的問(wèn)題,使用灰色關(guān)聯(lián)度代替現(xiàn)有方法中的歐氏距離,定義了樣本的平均灰色絕對(duì)關(guān)聯(lián)度;針對(duì)噪聲識(shí)別過(guò)程中支持
    發(fā)表于 11-29 16:19 ?0次下載
    模糊<b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b>的改進(jìn)方法

    多分類孿生支持向量機(jī)研究進(jìn)展

    孿生支持向量機(jī)因其簡(jiǎn)單的模型、快速的訓(xùn)練速度和優(yōu)秀的性能而受到廣泛關(guān)注.該算法最初是為解決二分類問(wèn)題而提出的。不能直接用于解決現(xiàn)實(shí)生活中普遍存在的多分類問(wèn)題.近來(lái),學(xué)者們致力于將二分類孿生支持
    發(fā)表于 12-19 11:32 ?0次下載

    基于支持向量機(jī)的測(cè)深激光信號(hào)處理

    針對(duì)淺海探測(cè)中激光回波噪聲源多、信噪比低,傳統(tǒng)非加權(quán)最小二乘支持向量機(jī)和加權(quán)最小二乘支持向量機(jī)對(duì)
    發(fā)表于 12-21 13:46 ?0次下載

    支持向量機(jī)的故障預(yù)測(cè)模型

    算法優(yōu)化支持向量機(jī)參數(shù),解決了蟻群算法易陷入局部最優(yōu)的問(wèn)題;然后,根據(jù)最優(yōu)參數(shù)建立擬合監(jiān)測(cè)數(shù)據(jù)和未來(lái)健康度下降過(guò)程非線性映射關(guān)系的和聲蟻群算法一支持
    發(fā)表于 12-29 11:24 ?0次下載

    關(guān)于支持向量機(jī)(SVMs)

    支持向量機(jī)(Support Vector Machine: SVM)是一種非常有用的監(jiān)督式機(jī)器學(xué)習(xí)算法
    的頭像 發(fā)表于 04-02 08:52 ?4196次閱讀
    關(guān)于<b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b>(SVMs)

    如何從零推導(dǎo)支持向量機(jī)

    望而卻步。 本文旨在從零構(gòu)建支持向量機(jī), 涵蓋從思想到形式化, 再簡(jiǎn)化, 最后實(shí)現(xiàn)的完整過(guò)程, 并展現(xiàn)其完整思想脈絡(luò)和所有公式推導(dǎo)細(xì)節(jié)。 本文力圖做到邏輯清晰而刪繁就簡(jiǎn), 避免引入不必
    發(fā)表于 06-10 08:00 ?1次下載
    如何從零推導(dǎo)<b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b>

    什么是支持向量機(jī) 什么是支持向量

    支持向量機(jī),英文為Support Vector Machine,簡(jiǎn)稱SV機(jī)(論文中一般簡(jiǎn)稱SVM)。它是一 種監(jiān)督式學(xué)習(xí)的方法,它廣泛的應(yīng)用于統(tǒng)計(jì)分類以及回歸分析中。
    發(fā)表于 01-28 16:01 ?2.2w次閱讀
    什么是<b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b> 什么是<b class='flag-5'>支持</b><b class='flag-5'>向量</b>

    支持向量機(jī)(核函數(shù)的定義)

    根據(jù)機(jī)器學(xué)習(xí)相關(guān)介紹(10)——支持向量機(jī)(低維到高維的映射),支持向量機(jī)可通過(guò)引入φ(x)函數(shù)
    的頭像 發(fā)表于 05-20 10:41 ?830次閱讀
    <b class='flag-5'>支持</b><b class='flag-5'>向量</b><b class='flag-5'>機(jī)</b>(核函數(shù)的定義)

    支持向量機(jī)(原問(wèn)題和對(duì)偶問(wèn)題)

    本文主要介紹原問(wèn)題(PRIME PROBLEM)和對(duì)偶問(wèn)題(DUAL PROBLEM),支持向量機(jī)優(yōu)化問(wèn)題可通過(guò)原問(wèn)題向?qū)ε紗?wèn)題的轉(zhuǎn)化求解
    的頭像 發(fā)表于 05-25 09:31 ?1367次閱讀

    支持向量機(jī)(多類問(wèn)題之1類對(duì)K-1類方式)

    支持向量機(jī)求解二分類問(wèn)題。當(dāng)需要求解多分類問(wèn)題時(shí),支持向量
    的頭像 發(fā)表于 06-30 16:07 ?529次閱讀
    主站蜘蛛池模板: 亚洲日本欧美日韩高观看| 被送到黑人性奴俱乐部| 国产精品麻豆AV| 免费毛片a在线观看67194| 亚洲精品免费观看| 灌满内射HP1V1| 欧美日韩视频一区二区三区| 伊人影院中文字幕| 国产人妻人伦精品无码.麻豆| 秋霞网韩国理伦片免费看| 中文字幕完整高清版| 黄色三级图片| 午夜理论片日本中文在线| 成 人 动漫3d 在线看| 免费无码一区二区三区蜜桃大 | www.青青草原| 久久综合伊人| 杨幂视频在线观看1分30秒 | 精品人伦一区二区三区潘金莲| 色欲人妻无码AV精品一区二区| metart中国撒尿人体欣赏| 浪潮色诱AV久久久久久久| 一本到高清视频在线观看三区| 国产色婷亚洲99精品AV在线| 天天躁日日躁狠狠躁午夜剧场| 啊好大好厉害好爽真骚| 男女牲交大战免费播放| 自拍偷拍12p| 久久久久亚洲| 与子敌伦刺激对白亂輪亂性| 精品国产自在天天线2019| 亚洲欧美一区二区三区久久| 国产午夜小视频| 亚洲AV国产国产久青草| 国产精品人妻一区免费看8C0M| 天堂草原天黑黑| 国产精品成人影院在线观看| 色橹橹欧美在线观看视频高清 | 在线看片成人免费视频| 久久精品熟女亚洲AV国产| 一级毛片全部免|