[[441742]]

當(dāng)孩子逐漸成長時(shí)，他們會通過聽覺、視覺和觸覺等感官向周圍的世界學(xué)習(xí)。他們對世界的理解、形成的觀點(diǎn)以及最終做出的決定都會受到成長環(huán)境的影響。例如，一個(gè)在性別歧視社區(qū)生活和成長的孩子可能不會意識到他們看待不同性別的方式存在偏見。

機(jī)器學(xué)習(xí)模也是如此。他們并不使用感官來感知，而是使用數(shù)據(jù)來學(xué)習(xí)——是人類提供的數(shù)據(jù)。這就是用于訓(xùn)練機(jī)器學(xué)習(xí)模型的數(shù)據(jù)盡量避免偏見變得至關(guān)重要的原因。以下內(nèi)容介紹了機(jī)器學(xué)習(xí)中一些最常見的偏見形式：

(1)歷史偏見

在收集用于訓(xùn)練機(jī)器學(xué)習(xí)算法的數(shù)據(jù)時(shí)，獲取歷史數(shù)據(jù)通常是最容易開始的地方。但是，如果不小心的話，很容易將歷史數(shù)據(jù)中存在的偏見包括在內(nèi)。

以亞馬遜公司為例。該公司在2014年著手構(gòu)建一個(gè)自動篩選求職者的系統(tǒng)。這個(gè)想法是為這個(gè)系統(tǒng)提供數(shù)百個(gè)簡歷，并自動挑選出最優(yōu)秀的候選人。該系統(tǒng)接受了該公司10年來的工作申請及其錄取結(jié)果的訓(xùn)練。那么出現(xiàn)了什么問題?因?yàn)閬嗰R遜公司大多數(shù)員工都是男性(尤其是技術(shù)崗位)。人工智能算法了解到，由于亞馬遜公司的男性員工多于女性，男性則是更合適的候選人，因此對女性求職者產(chǎn)生了歧視。到2015年，這個(gè)項(xiàng)目由于產(chǎn)生偏見不得不取消。

(2)樣本偏見

當(dāng)訓(xùn)練數(shù)據(jù)不能準(zhǔn)確反映模型的實(shí)際使用情況時(shí)，就會出現(xiàn)樣本偏見。通常情況下，一個(gè)群體的代表性或者過高，或者偏低。

例如，在美國訓(xùn)練將語音轉(zhuǎn)換成文本的一個(gè)項(xiàng)目中，需要大量音頻剪輯及其相應(yīng)的轉(zhuǎn)錄。那么有聲讀物將獲得大量此類數(shù)據(jù)，這種方法有什么問題?

事實(shí)證明，絕大多數(shù)有聲讀物都是由受過良好教育的白人男性講述的。不出所料，當(dāng)用戶來自不同的社會經(jīng)濟(jì)或種族背景時(shí)，使用這種方法訓(xùn)練的語音識別軟件表現(xiàn)不佳。

(3)標(biāo)記偏見

訓(xùn)練機(jī)器學(xué)習(xí)算法所需的大量數(shù)據(jù)需要標(biāo)記才能有用。當(dāng)人們登錄網(wǎng)站時(shí)，實(shí)際上自己也經(jīng)常這樣做。例如要求識別包含紅綠燈的方塊?實(shí)際上是在確認(rèn)該圖像的一組標(biāo)記，以幫助訓(xùn)練視覺識別模型。然而，人們標(biāo)記數(shù)據(jù)的方式千差萬別，標(biāo)記的不一致會給系統(tǒng)帶來偏見。

(4)聚合偏見

有時(shí)，人們聚合數(shù)據(jù)以簡化數(shù)據(jù)或以特定方式呈現(xiàn)數(shù)據(jù)。無論是在創(chuàng)建模型之前還是之后，這都可能導(dǎo)致偏見。例如下面這個(gè)圖表：

它顯示了人們的薪酬將如何隨著工作年限增加。這具有非常強(qiáng)的相關(guān)性，工作的時(shí)間越長，得到的報(bào)酬就越多。下圖可以了解用于創(chuàng)建這一聚合的數(shù)據(jù)：

(5)確認(rèn)偏見

簡而言之，確認(rèn)偏見是人們傾向于相信能證實(shí)其現(xiàn)有信念的信息，或者丟棄不符合現(xiàn)有信念的信息。從理論上來說，可以構(gòu)建有史以來最準(zhǔn)確的機(jī)器學(xué)習(xí)系統(tǒng)，無論是數(shù)據(jù)還是建模都沒有偏見。

在機(jī)器學(xué)習(xí)的應(yīng)用中，確認(rèn)偏見尤其普遍，在采取任何行動之前，都需要進(jìn)行人工審查。人工智能在醫(yī)療保健行業(yè)中的應(yīng)用已經(jīng)讓醫(yī)生們對算法診斷不屑一顧，因?yàn)樗c他們自己的經(jīng)驗(yàn)或理解不符。通常情況下，很多醫(yī)生并沒有閱讀過最新的研究文獻(xiàn)，這些文獻(xiàn)中的癥狀、技術(shù)或診斷結(jié)果可能和他們的知識和經(jīng)驗(yàn)有所不同。實(shí)際上，醫(yī)生閱讀的期刊數(shù)量有限，但機(jī)器學(xué)習(xí)系統(tǒng)可以將它們?nèi)渴珍洝?/p>

(6)評價(jià)偏見

假設(shè)一個(gè)團(tuán)隊(duì)正在構(gòu)建一個(gè)機(jī)器學(xué)習(xí)模型來預(yù)測美國大選期間的投票率，并希望通過采用年齡、職業(yè)、收入和政治立場等一系列特征可以準(zhǔn)確預(yù)測某人是否會投票。于是構(gòu)建了一個(gè)模型，通過當(dāng)?shù)剡x舉活動對其進(jìn)行了測試，并且對結(jié)果非常滿意。在95%的情況下，似乎可以正確預(yù)測某人是否會投票。

隨著在美國大選活動中的應(yīng)用，該團(tuán)隊(duì)對這個(gè)模型感到非常失望。因?yàn)榛ㄙM(fèi)很長時(shí)間設(shè)計(jì)和測試的模型正確率只有55%——這只比隨機(jī)猜測的表現(xiàn)好一點(diǎn)點(diǎn)。其糟糕的結(jié)果是評估偏見的一個(gè)例子。通過當(dāng)?shù)剡x舉活動評估其模型，無意中設(shè)計(jì)了一個(gè)只對該地區(qū)有效的系統(tǒng)。而美國其他地區(qū)的投票模式完全不同，即使它們包含在其初始訓(xùn)練數(shù)據(jù)中，也沒有得到全面的考慮。

結(jié)論

以上是偏見影響機(jī)器學(xué)習(xí)的六種不同方式。雖然這不是一個(gè)詳盡的列表，但它應(yīng)該能讓人們很好地理解機(jī)器學(xué)習(xí)系統(tǒng)最終具有偏見的最常見方式。