我們通常會(huì)認(rèn)為監(jiān)控?cái)z像頭是數(shù)字化的眼睛，監(jiān)視著我們，或者是為我們進(jìn)行監(jiān)視，具體是哪種情況取決于你的立場(chǎng)。但實(shí)際上，它們更像是舷窗：只有當(dāng)有人通過(guò)它們看時(shí)才有用。有時(shí)候這意味著會(huì)有人監(jiān)看監(jiān)控視頻，通常是同時(shí)監(jiān)看多個(gè)視頻窗口。然而，大多數(shù)監(jiān)控?cái)z像頭都是被動(dòng)的。它們?cè)谀抢镒鳛橐环N威懾，或者在出現(xiàn)問(wèn)題時(shí)提供證據(jù)。

[[220170]]

但是，這種情況正在發(fā)生變化視頻監(jiān)控，而且變化的速度非常快。人工智能給了監(jiān)控?cái)z像頭提供了能夠匹配它們眼睛的大腦，讓它們能夠分析實(shí)時(shí)視頻，而且不需要人類(lèi)的干預(yù)。對(duì)于公共安全來(lái)說(shuō)，這可能是一個(gè)好消息，幫助警察和應(yīng)急救助人員能夠更容易地發(fā)現(xiàn)犯罪和事故，并且有一系列的科學(xué)和工業(yè)上的應(yīng)用。但是這也對(duì)隱私的未來(lái)引發(fā)了嚴(yán)重的問(wèn)題，并給社會(huì)正義帶來(lái)了全新的風(fēng)險(xiǎn)。

如果政府可以使用閉路電視視頻監(jiān)控跟蹤大量的人，會(huì)發(fā)生什么情況？如果警察只要將你的臉部照片上傳到數(shù)據(jù)庫(kù)，就可以對(duì)你進(jìn)行全城數(shù)字化跟蹤，又會(huì)怎么樣？或者你所在當(dāng)?shù)氐纳虉?chǎng)的攝像頭上運(yùn)行的算法存在偏見(jiàn)，僅僅因?yàn)椴幌矚g某群青少年的樣子，就發(fā)出警報(bào)召喚警察，又會(huì)怎么樣？

雖然這些情景的出現(xiàn)尚需時(shí)日，但是我們已經(jīng)看到將監(jiān)控和人工智能結(jié)合的初步成果了。IC Realtime公司就是一個(gè)例子。該公司去年12月份推出的旗艦產(chǎn)品被谷歌用于閉路電視視頻監(jiān)控。這是一個(gè)應(yīng)用程序及網(wǎng)絡(luò)平臺(tái)，名為Ella，它使用人工智能對(duì)視頻流中的內(nèi)容進(jìn)行分析，并使之可供即時(shí)搜索。Ella可以識(shí)別成千上萬(wàn)的自然語(yǔ)言查詢，讓用戶能夠搜索鏡頭中的內(nèi)容，找到包含了特定動(dòng)物、穿著特定顏色衣物的人，甚至是包含了某款特定汽車(chē)品牌或型號(hào)的剪輯圖像。

在一次網(wǎng)絡(luò)演示中，IC Realtime公司的***執(zhí)行官M(fèi)att Sailor向《The Verge》展示了Ella的一個(gè)版本，該版本連接了監(jiān)控一個(gè)工業(yè)園區(qū)的大約40臺(tái)監(jiān)控?cái)z像頭。他輸入了各種搜索內(nèi)容--"一個(gè)穿紅衣服的男人"、"UPS貨車(chē)"、"警車(chē)"--所有這些都在幾秒鐘內(nèi)提取出了相關(guān)的鏡頭。然后，他縮小和時(shí)間范圍和地點(diǎn)范圍，并指出用戶可以如何用拇指向上和向下滑動(dòng)改善結(jié)果--就像Netflix一樣。

人工智能監(jiān)控從可搜索視頻開(kāi)始

Sailor表示："假如有搶劫，你并不真的知道發(fā)生了什么"。他表示，"但之后有一輛吉普牧馬人（Jeep Wrangler）向東飛馳而去。所以我們來(lái)搜索'吉普牧馬人（Jeep Wrangler）'，然后就找到了。"在屏幕上，開(kāi)始出現(xiàn)視頻剪輯，顯示不同的吉普牧馬人（Jeep Wrangler）從鏡頭前滑過(guò)。這將是人工智能和閉路電視視頻監(jiān)控相結(jié)合的***大優(yōu)勢(shì)，Sailor解釋說(shuō)：讓你很容易找到你要找的東西。他表示："如果沒(méi)有這種技術(shù)，你所能知道的不會(huì)比你的攝像頭更多，而且你必須從數(shù)個(gè)小時(shí)、數(shù)個(gè)小時(shí)又?jǐn)?shù)個(gè)小時(shí)的視頻中篩選內(nèi)容。"

Ella運(yùn)行在谷歌云（Google Cloud）上，可以從幾乎任何閉路電視視頻監(jiān)控系統(tǒng)中搜索鏡頭。Sailor表示："它在從單攝像頭系統(tǒng)--例如保姆攝像頭或者狗攝像頭--一直到擁有成千上萬(wàn)攝像頭的企業(yè)級(jí)系統(tǒng)中，都能工作得很好。"用戶每月支付使用費(fèi)用，起價(jià)為每個(gè)月7美元左右，總價(jià)會(huì)根據(jù)攝像頭的數(shù)量增長(zhǎng)。

IC Realtime公司希望能夠針對(duì)各種規(guī)模的企業(yè)，但該公司也認(rèn)為其技術(shù)也能夠吸引個(gè)人消費(fèi)者。這些客戶已經(jīng)通過(guò)"智能"家庭安防攝像頭市場(chǎng)的急速發(fā)展得到了很好的服務(wù)，這些攝像頭是由亞馬遜、羅技、Netgear以及谷歌旗下的Nest之類(lèi)的公司制造的。但是Sailor表示說(shuō)這種技術(shù)和IC Realtime公司的技術(shù)相比就太簡(jiǎn)陋了。這些攝像頭連接到家庭Wi-Fi上，并通過(guò)應(yīng)用程序提供實(shí)時(shí)視頻流，當(dāng)它們發(fā)現(xiàn)有東西在移動(dòng)的時(shí)候，會(huì)自動(dòng)地將視頻記錄下來(lái)。但是，Sailor表示，它們無(wú)法區(qū)分闖入者和鳥(niǎo)類(lèi)之間的差異，導(dǎo)致出現(xiàn)了很多誤報(bào)。他表示："它們是非常基礎(chǔ)的技術(shù)，已經(jīng)存在了很多年了。"他表示："這里沒(méi)有人工智能，也沒(méi)有深度學(xué)習(xí)。"

這種情況不會(huì)持續(xù)很久了。雖然IC Realtime公司提供的基于云的分析功能可以升級(jí)現(xiàn)有的、傻瓜式的攝像頭，其他一些公司則直接在他們的硬件中加入了人工智能。Boulder AI就是一家這樣的創(chuàng)業(yè)企業(yè)，該公司用自己的獨(dú)立人工智能攝像頭推銷(xiāo)"視覺(jué)即服務(wù)"。將人工智能集成到設(shè)備中的一大優(yōu)勢(shì)是它們不需要互聯(lián)網(wǎng)連接就能工作。Boulder公司廣泛地面向各行各業(yè)進(jìn)行銷(xiāo)售，為每家客戶量身打造機(jī)器視覺(jué)系統(tǒng)。

該公司的創(chuàng)始人Darren Odom對(duì)《The Verge》表示："應(yīng)用程序真的是非常全面。"他表示："我們的平臺(tái)銷(xiāo)售給了銀行、能源公司。我們甚至有一個(gè)應(yīng)用程序可以觀察比薩餅，確定它們的大小和形狀是否正確。"

"我們現(xiàn)在能夠100%地識(shí)別愛(ài)達(dá)荷州的鱒魚(yú)。"

Odom舉了一個(gè)在愛(ài)達(dá)荷州建造水壩的客戶的例子。為了符合環(huán)保法規(guī)，他們正在監(jiān)測(cè)能夠越過(guò)這個(gè)基礎(chǔ)設(shè)施頂部的魚(yú)類(lèi)的數(shù)量。Odom表示："他們以前安排了一個(gè)人坐在窗口看著魚(yú)梯，數(shù)著有多少鱒魚(yú)游過(guò)。"（顧名思義，魚(yú)梯指的就是一條階梯式的水槽，魚(yú)類(lèi)可以通過(guò)這條水道奮力上游。）"然后他們轉(zhuǎn)移到了視頻技術(shù)，有人（遠(yuǎn)程）進(jìn)行監(jiān)控。"***，他們聯(lián)系了Boulder公司，該公司為他們搭建了一個(gè)定制化的閉路電視監(jiān)控系統(tǒng)以確定通過(guò)魚(yú)梯上游的魚(yú)的類(lèi)別。Odom自豪地表示："我們真的使用計(jì)算機(jī)視覺(jué)進(jìn)行了魚(yú)類(lèi)物種識(shí)別。" Odom表示："我們現(xiàn)在能夠100%地識(shí)別愛(ài)達(dá)荷州的鱒魚(yú)。"

如果說(shuō)IC Realtime代表了這個(gè)市場(chǎng)的通用一端，那么Boulder公司就是展示了精品承包商的能力。不過(guò)，在這兩種情況之下，這些公司目前所能夠提供的還僅僅是冰山一角。就像機(jī)器學(xué)習(xí)在物體識(shí)別的能力方面取得迅速的進(jìn)步一樣，它分析場(chǎng)景、活動(dòng)和動(dòng)作的能力也有望迅速提高。一切都已經(jīng)就位，包括基礎(chǔ)研究、計(jì)算能力和訓(xùn)練數(shù)據(jù)集--這是創(chuàng)建有能力的人工智能的關(guān)鍵組成部分。視頻分析的兩個(gè)***的數(shù)據(jù)集來(lái)自YouTube和Facebook，這兩家公司都曾經(jīng)表示希望人工智能能夠幫助他們節(jié)制平臺(tái)上的內(nèi)容（不過(guò)兩家公司也都承認(rèn)還沒(méi)有做好準(zhǔn)備）。例如，YouTube的數(shù)據(jù)集包含超過(guò)45萬(wàn)小時(shí)帶標(biāo)簽的視頻，希望能夠刺激"視頻理解的創(chuàng)新和進(jìn)步"。參與構(gòu)建此類(lèi)數(shù)據(jù)集的組織的廣度讓人對(duì)該領(lǐng)域的重要性有了一些了解。谷歌、麻省理工學(xué)院（MIT）、IBM和DeepMind都參與進(jìn)來(lái)，開(kāi)啟了自己的類(lèi)似項(xiàng)目。

IC Realtime公司已經(jīng)在開(kāi)發(fā)面部識(shí)別等高級(jí)工具了。之后，它希望能夠分析屏幕上正在發(fā)生的事情。Sailor表示，他已經(jīng)和教育行業(yè)潛在的客戶進(jìn)行過(guò)交談，對(duì)方希望當(dāng)學(xué)生在學(xué)校遇到麻煩的時(shí)候，監(jiān)控能夠識(shí)別出來(lái)。他表示："例如，他們對(duì)打架的迅速通知感興趣。"系統(tǒng)需要做的一切就是注意聚集在一起的學(xué)生，然后提醒某個(gè)人，這樣他就可以檢查視頻內(nèi)容，看看發(fā)生了什么事情或者親自去調(diào)查。

Boulder公司也正在探索這種高級(jí)分析。該公司正在開(kāi)發(fā)的一個(gè)原型系統(tǒng)的目標(biāo)是分析在銀行里的人的行為。Odom表示："我們專門(mén)尋找壞人，并且探查一個(gè)正常人的行為和越界的人的行為之間的區(qū)別。" 要想做到這一點(diǎn)，他們正在使用舊的安全攝像頭拍攝的視頻來(lái)訓(xùn)練他們的系統(tǒng)，以發(fā)現(xiàn)異常行為。但是這種視頻有很多的質(zhì)量都非常低，所以他們也會(huì)找一些演員來(lái)拍攝自己的訓(xùn)練視頻片段。Odom沒(méi)有詳細(xì)說(shuō)明細(xì)節(jié)，但表示該系統(tǒng)將尋找特定的面部表情和行為。他表示："我們的演員們會(huì)做一些類(lèi)似蹲伏、推搡以及回頭一撇之類(lèi)的動(dòng)作。"

對(duì)于監(jiān)控和人工智能方面的專家來(lái)說(shuō)，這些功能的引入充滿了技術(shù)和道德方面的潛在困難。而且，和人工智能經(jīng)常遇到的情況一樣，這兩個(gè)類(lèi)別的困難是彼此交織在一起的。機(jī)器不能像人類(lèi)一樣理解這個(gè)世界，這是一個(gè)技術(shù)問(wèn)題，但是當(dāng)我們假設(shè)它們能夠做到這一點(diǎn)，并且讓它們?yōu)槲覀冏鰶Q定時(shí)，這就變成了一個(gè)道德問(wèn)題。

卡內(nèi)基.梅隆大學(xué)的教授Alex Hauptmann專門(mén)從事這種計(jì)算機(jī)分析，他表示，盡管人工智能近年來(lái)已經(jīng)在這一領(lǐng)域取得了巨大的進(jìn)步，但是在讓計(jì)算機(jī)理解視頻方面仍然存在著非常根本性的問(wèn)題。其中***的一個(gè)就是攝像頭的問(wèn)題，這個(gè)問(wèn)題我們已經(jīng)不再會(huì)經(jīng)常想到了：分辨率。

***的障礙非常常見(jiàn)：低分辨率的視頻

舉個(gè)例子來(lái)說(shuō)，一個(gè)神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練，可以分析視頻中的人類(lèi)行為。這些工作是通過(guò)將人體細(xì)分為多個(gè)部分--手臂、腿、肩膀、頭部等--然后觀察這些小的部分在視頻中從一幀到另一幀的變化來(lái)進(jìn)行的。這樣，人工智能可以告訴你是否有人在跑步，或者是在梳頭發(fā)。Hauptmann對(duì)《The Verge》表示："但是這取決于你所擁有的視頻的分辨率。" Hauptmann表示："如果我用一個(gè)攝像頭對(duì)準(zhǔn)停車(chē)場(chǎng)的盡頭，如果我能分辨出是否有人打開(kāi)了車(chē)門(mén)，就算是非常幸運(yùn)的了。如果你就站在（攝像頭）前面彈吉他，它就可以跟蹤你每一根手指的動(dòng)作。"

對(duì)于閉路電視監(jiān)控系統(tǒng)來(lái)說(shuō)，這是一個(gè)大問(wèn)題，攝像頭往往會(huì)有顆粒感，而角度也常常很怪異。Hauptmann舉了一個(gè)便利店攝像頭的例子，攝像頭的目的是監(jiān)控收銀機(jī)，但是它也監(jiān)視著面向街道的窗子。如果外面發(fā)生了搶劫，攝像頭的鏡頭有一部分被擋住了，那么人工智能可能就會(huì)卡住。他表示："但是我們作為人類(lèi)，可以想象正在發(fā)生的事情，并且把它們拼湊在一起。可是電腦就做不到這一點(diǎn)。"

同樣，雖然人工智能很好地識(shí)別視頻中的相關(guān)事件（例如，某人正在刷牙、看手機(jī)或者踢足球），但仍不能提取重要的因果關(guān)系。以分析人類(lèi)行為的神經(jīng)網(wǎng)絡(luò)為例。它可能會(huì)看到鏡頭并說(shuō)"這個(gè)人正在跑步"，但它不能告訴你他們之所以在跑步，是因?yàn)樗麄兛煲s不上公共汽車(chē)了，還是因?yàn)樗麄兺盗四橙说氖謾C(jī)。

這些關(guān)于準(zhǔn)確度的問(wèn)題應(yīng)該讓我們認(rèn)真思考一些人工智能創(chuàng)業(yè)企業(yè)的宣言。我們現(xiàn)在還遠(yuǎn)未接近這樣一個(gè)點(diǎn)：電腦通過(guò)觀看視頻能夠獲得和人類(lèi)一樣的見(jiàn)解。（研究人員可能會(huì)告訴你，要做到這一點(diǎn)可是太困難了，因?yàn)樗旧鲜?quot;解決"智力問(wèn)題的同義詞。）但是事情的發(fā)展速度非常快。

Hauptmann表示使用車(chē)牌跟蹤功能跟蹤車(chē)輛是"一個(gè)已經(jīng)得到解決的實(shí)際問(wèn)題"，在受控設(shè)置中的面部識(shí)別也是一樣的。（使用低質(zhì)量的閉路電視監(jiān)控視頻進(jìn)行面部識(shí)別就完全是另一回事了。）對(duì)汽車(chē)和衣物等物品的識(shí)別也非常可靠，在多臺(tái)攝像機(jī)之間自動(dòng)跟蹤一個(gè)人也是可以實(shí)現(xiàn)，但前提是條件是正確的。Hauptmann表示："在一個(gè)非擁擠的場(chǎng)景中跟蹤一個(gè)人的效果可能非常好，但是在擁擠的場(chǎng)景中，還是算了吧。"他表示，如果這個(gè)人穿著的是不起眼的服裝，要做到這一點(diǎn)就特別難。

一些人工智能監(jiān)控任務(wù)已經(jīng)解決了；另外一些還需要繼續(xù)努力

但是，即使是這些非常基本的工具也可以產(chǎn)生非常強(qiáng)大的效果。比如在莫斯科，一個(gè)類(lèi)似的基礎(chǔ)設(shè)施正在組裝，將面部識(shí)別軟件插入到一個(gè)集中式系統(tǒng)中，該系統(tǒng)擁有超過(guò)10萬(wàn)臺(tái)高分辨率攝像頭，覆蓋了這個(gè)城市90%以上的公寓入口。

在這種情況下，可能會(huì)有一個(gè)良性循環(huán)，隨著軟件越來(lái)越好，系統(tǒng)會(huì)收集更多的數(shù)據(jù)，從而幫助軟件變得更好。Hauptmann表示："我認(rèn)為這一切都會(huì)有所改善。"他表示："這種情況正在出現(xiàn)。"

如果這些系統(tǒng)已經(jīng)在工作了，那么我們就已經(jīng)有了像算法偏差這樣的問(wèn)題。這可不是一個(gè)假設(shè)的挑戰(zhàn)。研究表明，機(jī)器學(xué)習(xí)系統(tǒng)吸收了為它們編寫(xiě)程序的社會(huì)的種族歧視和性別歧視--從總是會(huì)將女性放置在廚房的圖像識(shí)別軟件到總是說(shuō)黑人更容易再次犯罪的刑事司法系統(tǒng)，比比皆是。如果我們使用舊的視頻剪輯來(lái)訓(xùn)練人工智能監(jiān)控系統(tǒng)，例如采集自閉路電視視頻監(jiān)控或者警察佩戴的攝像頭的視頻，那么存在于社會(huì)中的偏見(jiàn)就很可能會(huì)延續(xù)下去。

Meredith Whittaker是紐約大學(xué)（NYU）關(guān)注道德的"AI Now"研究所的聯(lián)席主任，她表示，這個(gè)過(guò)程已經(jīng)在執(zhí)法過(guò)程出現(xiàn)了，并將擴(kuò)展到私有部門(mén)。Whittaker舉出了Axon（以前被稱為T(mén)aser）的例子，該公司收購(gòu)了幾家人工智能公司，以幫助其將視頻分析功能集成到產(chǎn)品中。Whittaker表示："他們得到的數(shù)據(jù)來(lái)自警察佩戴的攝像頭，這些數(shù)據(jù)告訴了我們很多關(guān)于單個(gè)警務(wù)人員會(huì)關(guān)注誰(shuí)的情況，但是并沒(méi)有給我們一個(gè)完整的描述。 "她表示："這是一個(gè)真正的危險(xiǎn)，我們正在將帶有偏見(jiàn)的犯罪和罪犯的圖片普遍化。"

ACLU高級(jí)政策分析師Jay Stanley表示，即使我們能夠解決這些自動(dòng)化系統(tǒng)中的偏見(jiàn)，也不能使它們變得良性。他說(shuō)，將閉路電視視頻監(jiān)控?cái)z像頭從被動(dòng)的觀察者轉(zhuǎn)變?yōu)橹鲃?dòng)的觀察者可能會(huì)對(duì)公民社會(huì)產(chǎn)生巨大的不利影響。

"我們希望人們不僅僅擁有自由，還要感受到自由。"

Stanley表示："我們希望人們不僅僅擁有自由，還要感受到自由。這意味著他們不必?fù)?dān)心未知的、看不見(jiàn)的觀眾會(huì)如何解釋或曲解他們的每一個(gè)動(dòng)作和話語(yǔ)。" Stanley表示："要擔(dān)心的是人們會(huì)不斷地自我監(jiān)控，擔(dān)心他們所做的一切都會(huì)被曲解，并給他們的生活帶來(lái)負(fù)面的后果。"

Stanley還表示，不準(zhǔn)確的人工智能監(jiān)控發(fā)出的錯(cuò)誤警報(bào)也可能導(dǎo)致執(zhí)法部門(mén)和公眾之間更加危險(xiǎn)的對(duì)抗。比如說(shuō)，想想看Daniel Shaver的槍擊事件吧，在看到Shaver拿著槍后，一名警察被叫到德克薩斯州的一個(gè)旅館房間里。警長(zhǎng)Charles Langley在Shaver按照他的要求趴在地面上時(shí)，開(kāi)槍射殺了他。而Shaver被發(fā)現(xiàn)持有的槍是一支粒丸槍，這是他用來(lái)從事他的害蟲(chóng)控制工作的。

如果一個(gè)人可以犯這樣的錯(cuò)誤，電腦還有什么機(jī)會(huì)？而且，即使是監(jiān)控系統(tǒng)變得部分自動(dòng)化，這樣的錯(cuò)誤會(huì)變得更加常見(jiàn)還是更少？Stanley表示："如果技術(shù)出現(xiàn)在那里，就會(huì)有一些警察不得不照看那里。"

當(dāng)人工智能監(jiān)控變得普及的時(shí)候，誰(shuí)來(lái)管理這些算法呢？

Whittaker表示，我們?cè)谶@個(gè)領(lǐng)域看到的只是人工智能大趨勢(shì)的一部分，在這個(gè)趨勢(shì)中，我們使用這些相對(duì)粗糙的工具，嘗試著根據(jù)人們的形象對(duì)他們進(jìn)行分類(lèi)。她列舉了去年發(fā)表的一項(xiàng)有爭(zhēng)議的研究作為一個(gè)類(lèi)似的例子，該研究聲稱能夠通過(guò)面部識(shí)別來(lái)確定性取向。人工智能給出的結(jié)果的準(zhǔn)確性值得懷疑，但批評(píng)人士指出，它是否有效并不重要；重要的是人們是否相信它有用，并且是否會(huì)仍然使用數(shù)據(jù)做判斷。

Whittaker表示："令我感到不安的是，許多這樣的系統(tǒng)正在被注入我們的核心基礎(chǔ)設(shè)施之中，而且沒(méi)有讓我們可以提出關(guān)于有效性問(wèn)題的民主程序，也沒(méi)有通知大家將要部署這些系統(tǒng)。"Whittaker表示："這不過(guò)是正在出現(xiàn)的又一個(gè)新的例子：算法系統(tǒng)根據(jù)模式識(shí)別提供分類(lèi)并確定個(gè)體類(lèi)型，可是這些識(shí)別模式是從數(shù)據(jù)中提取的，而這些數(shù)據(jù)里包含了文化和歷史的偏見(jiàn)。"

當(dāng)我們向IC Realtime公司詢問(wèn)人工智能監(jiān)控可能如何被濫用的問(wèn)題時(shí)，他們給出了一個(gè)在科技行業(yè)常見(jiàn)的答案：這些技術(shù)是價(jià)值中立的，只是如何使用它們以及由誰(shuí)來(lái)使用它們才決定了它們是好是壞。Sailor表示："任何新技術(shù)都面臨著有可能落入不法之徒的手中的危險(xiǎn)。"Sailor表示："任何技術(shù)都是如此……而我認(rèn)為在這個(gè)問(wèn)題上，利遠(yuǎn)大于弊。"