偏見(jiàn)是指?jìng)€(gè)人對(duì)他人或其他群體所持有的缺乏充分事實(shí)依據(jù)的認(rèn)識(shí)和態(tài)度，而機(jī)器學(xué)習(xí)中的偏差則是由缺乏足夠的特征和用于訓(xùn)練模型的相關(guān)數(shù)據(jù)集不全面引起的。機(jī)器學(xué)習(xí)算法在訓(xùn)練中嚴(yán)格按照其數(shù)學(xué)構(gòu)造和數(shù)據(jù)執(zhí)行任務(wù)，準(zhǔn)確完成人類(lèi)所輸入的內(nèi)容，因此，機(jī)器學(xué)習(xí)模型的偏差通常是由設(shè)計(jì)和收集相關(guān)數(shù)據(jù)的人的“偏見(jiàn)”造成的。

數(shù)據(jù)科學(xué)家在構(gòu)建算法并對(duì)機(jī)器學(xué)習(xí)進(jìn)行訓(xùn)練時(shí)，源自其本身某種程度的偏見(jiàn)會(huì)不可避免地蔓延到AI模型中，比較幸運(yùn)的是，機(jī)器學(xué)習(xí)的偏差能夠被檢測(cè)和規(guī)避。不過(guò)，相關(guān)的研究人員仍需保持警惕。本文總結(jié)了需要了解和防范的4種不同類(lèi)型的機(jī)器學(xué)習(xí)偏差以供參考。

1. 樣本偏差

樣本偏差是訓(xùn)練數(shù)據(jù)的問(wèn)題。當(dāng)用于訓(xùn)練模型的數(shù)據(jù)不能準(zhǔn)確地表現(xiàn)模型將運(yùn)行的環(huán)境時(shí)，就會(huì)產(chǎn)生樣本偏差。沒(méi)有任何一種算法可以與整個(gè)宇宙環(huán)境的數(shù)據(jù)交互，并在這個(gè)宇宙環(huán)境中被訓(xùn)練，所以，選擇一個(gè)足夠大且具備代表性的宇宙子集來(lái)減輕樣本的偏差成為一門(mén)科學(xué)。盡管這門(mén)科學(xué)容易理解，但并非所有的數(shù)據(jù)科學(xué)家都接受過(guò)抽樣技術(shù)的訓(xùn)練。

舉一個(gè)自動(dòng)駕駛汽車(chē)的例子。當(dāng)訓(xùn)練一個(gè)在白天和夜晚都能使汽車(chē)自動(dòng)駕駛的算法時(shí)，如果只選取了白天的數(shù)據(jù)進(jìn)行訓(xùn)練，這就等于在模型中引入了樣本偏差，用白天和夜晚的數(shù)據(jù)訓(xùn)練算法才可以消除樣本偏差的來(lái)源。

2. 偏見(jiàn)偏差

偏見(jiàn)偏差是由受文化和刻板印象影響的數(shù)據(jù)所引發(fā)的結(jié)果?？梢韵胂笠幌?，假設(shè)有一個(gè)計(jì)算機(jī)視覺(jué)算法正在接受訓(xùn)練來(lái)理解工作中的人們，而該算法暴露于數(shù)以千計(jì)的訓(xùn)練數(shù)據(jù)圖，其中許多圖像顯示的是正在寫(xiě)代碼的男性和在廚房干活的女性，那么，該算法很可能會(huì)將編碼員等同于男性，將家務(wù)員等同于女性。這就是偏見(jiàn)偏差，因?yàn)楹茱@然女性也能夠?qū)懘a，而男人也可以做飯。

這里的問(wèn)題是，被選取的訓(xùn)練數(shù)據(jù)有意識(shí)地或無(wú)意識(shí)地反映了社會(huì)的刻板印象。要避免這樣的情況出現(xiàn)，可以忽略性別和職業(yè)之間的統(tǒng)計(jì)關(guān)系，并使算法接觸均衡分布的示例。這顯然需要對(duì)刻板印象和偏見(jiàn)足夠敏感，而這則取決于人類(lèi)對(duì)模型設(shè)定的表達(dá)行為的預(yù)期，僅靠數(shù)學(xué)無(wú)法克服這類(lèi)偏差。負(fù)責(zé)標(biāo)記和注釋訓(xùn)練數(shù)據(jù)的工作人員必須接受相關(guān)的訓(xùn)練，以避免他們將自己對(duì)社會(huì)的偏見(jiàn)或刻板印象引入到訓(xùn)練數(shù)據(jù)中。

3. 計(jì)量偏差

如果用于觀察或測(cè)量的設(shè)備存在問(wèn)題，這會(huì)使系統(tǒng)價(jià)值失真，這種偏差趨向于使數(shù)據(jù)朝某個(gè)特定的方向偏離。例如，用帶有彩色濾光片的相機(jī)拍攝的每幅訓(xùn)練數(shù)據(jù)圖像都會(huì)出現(xiàn)顏色完全失真的情況，如此，用于訓(xùn)練算法的圖像數(shù)據(jù)實(shí)際上也沒(méi)有系統(tǒng)地表現(xiàn)出算法將運(yùn)行的環(huán)境。

這種偏差無(wú)法通過(guò)簡(jiǎn)單地?cái)U(kuò)大數(shù)據(jù)收集來(lái)避免，有效的途徑是，選取多個(gè)測(cè)量裝置并讓接受過(guò)訓(xùn)練的人員來(lái)比較這些裝置的輸出內(nèi)容。

4. 算法偏差

最后一種類(lèi)型的偏差與數(shù)據(jù)無(wú)關(guān)，屬于算法的數(shù)學(xué)性質(zhì)。一方面，具備高方差的模型可以很容易擬合到訓(xùn)練數(shù)據(jù)中并能接納復(fù)雜性，然而，這種模型對(duì)雜訊(又稱噪音noise)十分敏感;另一方面，具備高偏差的模型則更加剛硬，對(duì)數(shù)據(jù)和噪聲的變化不那么敏感，但容易丟失復(fù)雜性。因此，數(shù)據(jù)科學(xué)家需要在這兩個(gè)屬性之間達(dá)到適當(dāng)?shù)钠胶狻?/p>

數(shù)據(jù)科學(xué)家能通過(guò)了解這四種類(lèi)型的AI偏差構(gòu)建出更好模型和選取更好的訓(xùn)練數(shù)據(jù)。AI算法是由人類(lèi)構(gòu)建的，訓(xùn)練數(shù)據(jù)也是由人類(lèi)收集、篩選、標(biāo)記和注釋的，因此，數(shù)據(jù)科學(xué)家需要敏銳地識(shí)別出這些偏差，并使用一種貫徹和迭代的方式來(lái)不斷測(cè)試模型，并吸納訓(xùn)練有素的研究員協(xié)助，最終規(guī)避這些機(jī)器學(xué)習(xí)的偏差。

關(guān)鍵詞： 機(jī)器學(xué)習(xí)