本文經(jīng)AI新媒體量子位（公眾號ID:QbitAI）授權(quán)轉(zhuǎn)載，轉(zhuǎn)載請聯(lián)系出處。

今天早上，離開微軟的沈向洋正式續(xù)聘清華，在清華講了第一堂課。

去年11月沈向洋離職微軟后，就在本周前幾天，沈向洋續(xù)聘清華，在清華的title是清華大學(xué)高等研究院雙聘教授。

清華大學(xué)校長邱勇說，這是清華大學(xué)歷史上第一次以視頻會(huì)議的形式舉行聘任儀式，校長連線發(fā)聘任書。

這次聘任儀式的兩端分別在中美兩地，校長和工作人員們在位于北京的清華大學(xué)工字廳，而沈向洋博士在位于西雅圖的清華大學(xué)全球創(chuàng)新學(xué)院（GIX）大樓127室。

邱勇校長還開玩笑說：“我也是第一次跟向洋博士以這種形式見面，向洋博士在屏幕上很帥，比以前都帥。”

之所以是“續(xù)聘”，是因?yàn)檫@其實(shí)是沈向洋在清華的第二場聘任儀式。2005年，沈向洋首次受聘清華高等研究院雙聘教授，距今已經(jīng)過去了15年。

聘任儀式之后，借助Zoom直播平臺，沈向洋進(jìn)行了主題為Engineering Responsible AI的課程演講。

沈向洋提到，AI目前在社會(huì)各界中都有應(yīng)用，人們借助AI來做決策。但現(xiàn)在，AI已經(jīng)在做我們不懂的決策。

許多AI系統(tǒng)就像黑箱一樣，AI做了決策，但我們不知道它為什么這樣做。

因此，負(fù)責(zé)任的AI是很重要的，每個(gè)創(chuàng)造AI的人都應(yīng)該了解一些AI創(chuàng)造的原則。

之后沈向洋重點(diǎn)討論了可解釋的AI和AI的偏差（bias）

關(guān)于可解釋的AI，沈向洋舉了一個(gè)AI分辨哈士奇和狼的例子。

在以下6張照片中，只有左下角的一張被識別錯(cuò)了。

但其實(shí)，AI可能并非像我們理解的那樣，通過動(dòng)物的外形來辨別的，它的辨別方法可能是這樣：

AI的判斷并非通過圖片中的動(dòng)物部分，而是通過圖片中除了動(dòng)物之外的部分進(jìn)行的。

因此，可解釋的AI非常重要，不然你永遠(yuǎn)都不知道AI可能是用這種作弊的方法來判別哈士奇和狼的。

而關(guān)于偏差，沈向洋舉了性別偏差的例子。

曾經(jīng)有人發(fā)現(xiàn)一個(gè)人臉識別系統(tǒng)里，識別不準(zhǔn)的都是女性、不化妝、短發(fā)、不茍言笑的照片，而其他人就相對更準(zhǔn)一些。

而在詞嵌入中，問題更為明顯。

同一段描述，當(dāng)文中用的是she/her等女性詞匯時(shí)，AI判斷這段文字描述的是老師；

而當(dāng)里面的she/her變成he/his/him等男性詞匯時(shí)，AI就會(huì)判斷這段文字描述的是律師。

一個(gè)典型的例子是“He’s Brilliant, She’s Lovely”。

在一個(gè)詞嵌入系統(tǒng)中，當(dāng)主語分別是“她（she）”和“他（he）”時(shí)，出現(xiàn)的詞是不一樣的：

她是“姐妹”，他是“兄弟”；她是“護(hù)士”，他是“大夫”，談到這里，沈向洋吐槽說，你們沒發(fā)現(xiàn)哪里不對么？她是“家庭主婦”，他是“程序員”；她說“OMG”，他說“WTF”；她是“女權(quán)主義者”，他是“現(xiàn)實(shí)主義者”；她“懷孕”了，他“腎結(jié)石”了；……

這是詞嵌入里的偏差，很多時(shí)候人們想都不想，就直接用了。

最后，沈向洋教授總結(jié)說，我們是第一代和AI共存的人類，我們得決定怎么構(gòu)建AI、怎么用AI。我們能接受一個(gè)AI做的決定、我們?nèi)祟悷o法理解的世界嗎？

One More Thing

最后，沈向洋還表達(dá)了他對NLP領(lǐng)域的期待。

他說，CV現(xiàn)在還很火，但未來十年自己看好NLP：

“懂語言者得天下。”

這是沈向洋全程唯一一句中文。

傳送門

如果你想了解沈向洋演講的具體內(nèi)容，清華大學(xué)微博上可以查看回放：

https://weibo.com/1676317545/Ixadc8PhK?from=page_1002061676317545_profile&wvr=6&mod=weibotime&sudaref=weibo.com&display=0&retcode=6102&type=comment