機(jī)器學(xué)習(xí)中的分類具有一定的哲學(xué)意義，因?yàn)槿祟愐坏┲懒耸挛锏姆诸悾涂梢圆扇∫欢ǖ男袆?dòng)。下面粵嵌重慶嵌入式培訓(xùn)機(jī)構(gòu)為你解密一下機(jī)器學(xué)習(xí)中的“哲學(xué)”到底有哪些？

　　NFL定理。它由Wolpert在1996年提出，其應(yīng)用領(lǐng)域原本為經(jīng)濟(jì)學(xué)，NFL講的是優(yōu)化模型的評(píng)估問題。在機(jī)器學(xué)習(xí)領(lǐng)域中，NFL的定律指明，如果我們對(duì)要解決的問題一無所知且并假設(shè)其分布完全隨機(jī)且平等，那么任何算法的預(yù)期性能都是相似的。這個(gè)定理對(duì)于“盲目的算法崇拜”有毀滅性的打擊。然而，從另一個(gè)角度說，我們對(duì)于要解決的問題往往不是一無所知，因此大部分情況下我們的確知道什么算法可以得到較好的結(jié)果。正因如此，我們才需要研究和發(fā)明更多的機(jī)器學(xué)習(xí)算法來處理不同的假設(shè)和數(shù)據(jù)。

　　奧卡姆剃刀定理。它是由十二世紀(jì)的英國教士及哲學(xué)家奧卡姆提出的:“ 如無必要，勿增實(shí)體”。奧卡姆剃刀定理對(duì)于機(jī)器學(xué)習(xí)的意義在于它給出了一種模型選擇的方法，對(duì)待過擬合問題有指導(dǎo)意義。但讀者應(yīng)該注意，奧卡姆剃刀定理只是一種對(duì)于模型選擇的指導(dǎo)方向，不同的選擇方向如集成學(xué)習(xí)就給出了近似相反的選擇標(biāo)準(zhǔn)。現(xiàn)實(shí)世界是非常復(fù)雜的，切勿濫用。

　　集成學(xué)習(xí)。集成學(xué)習(xí)的哲學(xué)思想是“眾人拾柴火焰高”，和其他機(jī)器學(xué)習(xí)模型不同，集成學(xué)習(xí)將多個(gè)較弱的機(jī)器學(xué)習(xí)模型合并起來來一起決策。比較常見的方法有多數(shù)投票法，即少數(shù)服從多數(shù)。從某種意義上說，神經(jīng)網(wǎng)絡(luò)也是一種集成學(xué)習(xí)，相信敏銳的讀者已經(jīng)發(fā)現(xiàn)，集成學(xué)習(xí)似乎和前面提到的奧卡姆剃刀定理相違背。奧卡姆剃刀定理并非不可辯駁的真理，而只是一種選擇方法從事科學(xué)研究，切勿相信有普遍真理。

　　頻率學(xué)派和貝葉斯學(xué)派。對(duì)于不熟悉的讀者來說，無論是機(jī)器學(xué)習(xí)還是統(tǒng)計(jì)學(xué)習(xí)都是一種尋找一種映射，或者更廣義的說，進(jìn)行參數(shù)估計(jì)。頻率學(xué)派相信參數(shù)是客觀存在的，雖然未知，但不會(huì)改變。因此頻率學(xué)派的方法一直都是試圖估計(jì)“哪個(gè)值接近真實(shí)值”，相對(duì)應(yīng)的我們使用似然估計(jì)，置信區(qū)間, 和p-value。因此這一切都是體現(xiàn)我們對(duì)于真實(shí)值估算的自信和可靠度。而貝葉斯學(xué)派相信參數(shù)不是固定的，我們需要發(fā)生過的事情來推測參數(shù)，這也是為什么總和先驗(yàn)及后驗(yàn)過不去，才有了后驗(yàn)即MAP。貝葉斯學(xué)派的優(yōu)勢(shì)在于承認(rèn)未知的存在，因此感覺更符合我們的常識(shí)“不可知論”。據(jù)我不權(quán)威觀察，統(tǒng)計(jì)學(xué)出身的人傾向于頻率學(xué)派而機(jī)器學(xué)習(xí)出身的人更傾向于貝葉斯學(xué)派。

　　接觸機(jī)器學(xué)習(xí)的早期階段，時(shí)間往往都花在了研究算法上。隨著學(xué)習(xí)的深入，相信大家會(huì)慢慢發(fā)現(xiàn)其實(shí)算法思想的精髓是無處不在的妥協(xié)。以上是粵嵌重慶嵌入式培訓(xùn)機(jī)構(gòu)為你解密機(jī)器學(xué)習(xí)中的“哲學(xué)”。