失誤集錦：2017人工智能領(lǐng)域的那些事兒
今年，人工智能項(xiàng)目AlphaGo和Libratus分別擊敗了人類玩家的最優(yōu)秀的圍棋選手和撲克玩家。雖然這些里程碑表明了近幾年人工智能的發(fā)展程度，但許多人對新興技術(shù)的整體成熟度持懷疑態(tài)度，尤其是在過去12個月中出現(xiàn)的一些有關(guān)人工智能的小失誤。
被面具破解的人臉識別
面部識別技術(shù)(Face ID)是解鎖新型iPhone X的面部識別技術(shù)，被譽(yù)為迄今為止最安全的人工智能激活方法，蘋果公司宣稱其被愚弄的幾率為百萬分之一。但隨后越南公司BKAV使用由3D打印的塑料、硅膠、化妝品和鏤空構(gòu)成的150美元面膜實(shí)現(xiàn)了破解。 Bkav只是掃描一個測試對象的臉部，使用3D打印機(jī)生成一個臉部模型，并貼上剪紙眼睛和嘴巴和硅膠鼻子。這一破解給整個行業(yè)帶來了沖擊波，加大了消費(fèi)者設(shè)備隱私的風(fēng)險(xiǎn)，更普遍的利用了人工智能的安全。
鄰居們由于Amazon Echo報(bào)警
流行的Amazon Echo被認(rèn)為是強(qiáng)大的智能揚(yáng)聲器之一。但沒有什么是完美的，一名德國男子的Echo在他不在家的時候被意外激活，并在午夜后開始響起，吵醒鄰居，導(dǎo)致他們打電話給警察，警察不得不破門而入，甚至在主人回來之前把門鎖換掉了。
Facebook chatbot關(guān)閉
今年七月，有大批量的報(bào)道稱有兩個Facebook聊天機(jī)器人以人類無法識別的語言相互溝通后被關(guān)閉。關(guān)于新的秘密超級智能語言的謠言淹沒了論壇等討論區(qū)，直到Facebook解釋表示，這種神秘的交流只是語法編碼疏忽的結(jié)果。
拉斯維加斯自駕駛巴士在第一天上路就出車禍
一輛自駕巴士于今年十一月在拉斯維加斯首次亮相。然而，在短短的兩個小時內(nèi)，巴士就被一輛貨車撞上了。盡管從技術(shù)上來說，它并沒有對這起事故負(fù)責(zé)，但是這輛智能巴士上的乘客抱怨道，當(dāng)卡車慢慢靠近的時候，它不夠智能，無法自行擺脫危險(xiǎn)。
Google Allo使用頭巾表情符號來回應(yīng)槍支表情
美國有線電視新聞網(wǎng)的工作人員通過Google Allo收到了一個戴頭巾的人的文字表情建議。這是由于包含手槍的表情符號引發(fā)的。Google向公眾保證，它已經(jīng)解決了這個問題，并發(fā)表道歉。
雙胞胎騙匯豐語音識別系統(tǒng)
匯豐銀行的語音識別ID是一個以人工智能為導(dǎo)向的安全系統(tǒng)，允許用戶通過語音命令訪問他們的賬戶。雖然該公司聲稱它和指紋ID一樣安全，但是BBC的一名記者的雙胞胎兄弟能夠通過模仿他的聲音來訪問他的賬戶。實(shí)驗(yàn)花了七次嘗試才成功，據(jù)此，匯豐即時的解決辦法是規(guī)定三次嘗試失敗就鎖定賬戶的門檻。
Google AI看著步槍，誤判為直升機(jī)
通過略微調(diào)整步槍照片，麻省理工學(xué)院的一個研究小組欺騙了Google Cloud Vision API，使其誤認(rèn)為直升機(jī)。這個不良樣本，會導(dǎo)致計(jì)算機(jī)通過引入人眼無法察覺的修改來對圖像進(jìn)行錯誤分類。在過去，只有黑客知道目標(biāo)計(jì)算機(jī)系統(tǒng)的基本機(jī)制，敵對的例子才會起作用。麻省理工學(xué)院團(tuán)隊(duì)在沒有獲得這些系統(tǒng)信息的情況下，通過觸發(fā)錯誤分類而向前邁進(jìn)了一步。
“黑”掉自動駕駛汽車 只要給路標(biāo)畫個大花臉
研究人員發(fā)現(xiàn)，通過使用油漆或膠帶的謹(jǐn)慎應(yīng)用來阻止信號，他們可以欺騙自動駕駛的汽車，把這些標(biāo)志進(jìn)行誤分類。用“愛”和“憎恨”這兩個詞修飾的停車標(biāo)志，欺騙了一輛自駕車的機(jī)器學(xué)習(xí)系統(tǒng)，大部分的時候都會被誤認(rèn)為是限速45英里/小時。
用AI給油漆顏色取名
機(jī)器學(xué)習(xí)研究員Janelle Shan訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)，處理大約7700種油漆顏色，以及其對應(yīng)的紅綠藍(lán)值。經(jīng)過幾個小時的訓(xùn)練，神經(jīng)網(wǎng)絡(luò)成功地找到了“綠色”和“灰色”這兩個詞，但除此之外就沒別的了。訓(xùn)練神經(jīng)網(wǎng)絡(luò)需要時間。在多次迭代中，Shane訓(xùn)練的神經(jīng)網(wǎng)絡(luò)變得越來越好，它已經(jīng)能夠找出像棕色和藍(lán)色這樣的真實(shí)顏色，以及這些顏色對應(yīng)的紅綠藍(lán)值。接著她發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)是具有創(chuàng)造力的，它開始產(chǎn)生“草球棒”、“淺褐色”和“毒品”等顏色。
