• 人工智能算法對(duì)人類(lèi)生活和更廣泛的社會(huì)有著巨大的影響。
• 圍繞人工智能的倫理困境包括數(shù)字差異及其武器化。
• 自治應(yīng)該與人類(lèi)監(jiān)督相平衡，同時(shí)應(yīng)該提高對(duì)人工智能的負(fù)責(zé)任使用，以便可以利用它來(lái)解決歧視問(wèn)題。

在計(jì)算機(jī)進(jìn)步、數(shù)據(jù)科學(xué)和龐大數(shù)據(jù)集的可用性的推動(dòng)下，人工智能 (AI) 已成為強(qiáng)大的日常現(xiàn)實(shí)和商業(yè)工具。大型科技公司如谷歌、亞馬遜和Meta現(xiàn)在正在開(kāi)發(fā)基于人工智能的系統(tǒng)。該技術(shù)可以模仿人類(lèi)語(yǔ)言、檢測(cè)疾病、預(yù)測(cè)犯罪活動(dòng)、起草法律合同、解決可訪問(wèn)性問(wèn)題，并比人類(lèi)更好地完成任務(wù)。對(duì)于企業(yè)而言，人工智能有望預(yù)測(cè)業(yè)務(wù)成果、改進(jìn)流程并以大幅節(jié)省成本的方式提高效率。

但人們對(duì)人工智能的擔(dān)憂(yōu)仍在增加。

人工智能算法已經(jīng)變得如此強(qiáng)大，一些專(zhuān)家將人工智能標(biāo)記為有感知能力以至于任何腐敗、篡改、偏見(jiàn)或歧視都可能對(duì)組織、人類(lèi)生活和社會(huì)產(chǎn)生巨大影響。

數(shù)字鑒別

人工智能決策越來(lái)越大規(guī)模地影響和改變?nèi)藗兊纳睢２回?fù)責(zé)任地使用它們會(huì)加劇現(xiàn)有的人類(lèi)偏見(jiàn)和歧視性措施，例如種族定性、行為預(yù)測(cè)或性取向識(shí)別。之所以會(huì)出現(xiàn)這種固有的偏見(jiàn)，是因?yàn)?AI 的好壞取決于我們可以提供的訓(xùn)練數(shù)據(jù)量，而這很容易受到人類(lèi)偏見(jiàn)的影響。

當(dāng)機(jī)器學(xué)習(xí)算法在未充分代表某些族群（例如女性、有色人種或特定年齡人口統(tǒng)計(jì)數(shù)據(jù)的人）的數(shù)據(jù)上進(jìn)行訓(xùn)練和測(cè)試時(shí)，也會(huì)出現(xiàn)偏差。例如，研究表明，有色人種特別容易受到面部識(shí)別技術(shù)算法偏差的影響。

使用中也會(huì)出現(xiàn)偏差。例如，為特定應(yīng)用設(shè)計(jì)的算法可能會(huì)用于非預(yù)期目的，這會(huì)導(dǎo)致對(duì)輸出的誤解。

驗(yàn)證 AI 性能

人工智能主導(dǎo)的歧視可能是抽象的、不直觀的、微妙的、無(wú)形的和難以察覺(jué)的。源代碼可能會(huì)受到限制，或者審計(jì)人員可能不知道算法是如何部署的。進(jìn)入算法以查看其編寫(xiě)方式和響應(yīng)方式的復(fù)雜性不容小覷。

當(dāng)前的隱私法依賴(lài)于通知和選擇；因此，很少有人閱讀由此產(chǎn)生的要求消費(fèi)者同意冗長(zhǎng)的隱私政策的通知。如果將此類(lèi)通知應(yīng)用于人工智能，將對(duì)消費(fèi)者和社會(huì)的安全和隱私產(chǎn)生嚴(yán)重后果。

人工智能作為武器

雖然真正的人工智能惡意軟件可能還不存在，但假設(shè)人工智能惡意軟件會(huì)增強(qiáng)攻擊者的能力并不牽強(qiáng)。可能性是無(wú)窮無(wú)盡的——從環(huán)境中學(xué)習(xí)以識(shí)別和利用新漏洞的惡意軟件、針對(duì)基于人工智能的安全性進(jìn)行測(cè)試的工具或可以用錯(cuò)誤信息毒害人工智能的惡意軟件。

由人工智能操縱的數(shù)字內(nèi)容已經(jīng)被用于實(shí)時(shí)創(chuàng)建超逼真的個(gè)人合成副本（也稱(chēng)為深度偽造）。因此，攻擊者將利用深度偽造來(lái)制造針對(duì)性很強(qiáng)的社會(huì)工程攻擊、造成經(jīng)濟(jì)損失、操縱輿論或獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。

“人工智能主導(dǎo)的歧視可能是抽象的、不直觀的、微妙的、無(wú)形的和難以察覺(jué)的。源代碼可能會(huì)受到限制，或者審計(jì)人員可能不知道算法是如何部署的。”— Steve Durbin，信息安全論壇首席執(zhí)行官

減輕與人工智能相關(guān)的風(fēng)險(xiǎn)

由于人工智能決策越來(lái)越大規(guī)模地影響和影響人們的生活，企業(yè)有道德、社會(huì)和信托責(zé)任以合乎道德的方式管理人工智能的采用。他們可以通過(guò)多種方式做到這一點(diǎn)。

1、將道德轉(zhuǎn)化為指標(biāo)

道德 AI 遵守明確定義的道德準(zhǔn)則和基本價(jià)值觀，例如個(gè)人權(quán)利、隱私、非歧視，重要的是，非操縱。組織必須建立明確的原則來(lái)識(shí)別、衡量、評(píng)估和減輕人工智能主導(dǎo)的風(fēng)險(xiǎn)。接下來(lái)，他們必須將它們轉(zhuǎn)化為實(shí)用的、可衡量的指標(biāo)，并將其嵌入日常流程中。

2、了解偏見(jiàn)的來(lái)源

擁有正確的工具來(lái)調(diào)查偏見(jiàn)的來(lái)源并了解決策中公平的影響對(duì)于開(kāi)發(fā)道德人工智能絕對(duì)至關(guān)重要。識(shí)別使用機(jī)器學(xué)習(xí)的系統(tǒng)，確定它們對(duì)業(yè)務(wù)的重要性，并針對(duì) AI 引起的偏差實(shí)施流程、控制和對(duì)策。

3、平衡自主權(quán)與人工監(jiān)督

組織應(yīng)建立一個(gè)跨領(lǐng)域倫理委員會(huì)，監(jiān)督組織和供應(yīng)鏈中人工智能系統(tǒng)引入的風(fēng)險(xiǎn)的持續(xù)管理和監(jiān)控。委員會(huì)必須由來(lái)自不同背景的人組成，以確保對(duì)所有道德問(wèn)題的敏感性。

算法的設(shè)計(jì)必須考慮到專(zhuān)家的意見(jiàn)、情境知識(shí)和對(duì)歷史偏見(jiàn)的認(rèn)識(shí)。必須在關(guān)鍵領(lǐng)域（例如在金融交易中）強(qiáng)制執(zhí)行人工授權(quán)流程，以防止它們被惡意行為者破壞。

4、賦予員工權(quán)力并提升負(fù)責(zé)任的人工智能

培育一種文化，使個(gè)人能夠在不扼殺創(chuàng)新的情況下提出對(duì)人工智能系統(tǒng)的擔(dān)憂(yōu)。通過(guò)透明地處理角色、期望和責(zé)任來(lái)建立對(duì) AI 的內(nèi)部信任和信心。認(rèn)識(shí)到對(duì)新角色的需求并積極提升技能、重新技能或雇用。

如果需要，可以通過(guò)提供更好的控制權(quán)和對(duì)追索權(quán)的訪問(wèn)來(lái)授權(quán)用戶(hù)。強(qiáng)大的領(lǐng)導(dǎo)力對(duì)于賦予員工權(quán)力和將負(fù)責(zé)任的人工智能提升為業(yè)務(wù)必要性也至關(guān)重要。

5、利用人工智能解決歧視問(wèn)題

程序化檢查是評(píng)估人類(lèi)公平性的傳統(tǒng)方法，可以通過(guò)在人類(lèi)決策過(guò)程中運(yùn)行算法、比較結(jié)果并解釋機(jī)器主導(dǎo)決策背后的原因來(lái)從人工智能中受益。另一個(gè)例子是麻省理工學(xué)院關(guān)于打擊系統(tǒng)性種族主義的研究計(jì)劃，該計(jì)劃致力于開(kāi)發(fā)和使用計(jì)算工具在社會(huì)的許多不同部門(mén)創(chuàng)造種族平等。