[[235932]]

　　英文原文：The rise of 'pseudo-AI': how tech firms quietly use humans to do bots' work

　   7 月 9 日消息，《衛報》撰文揭秘“假 AI”的興起。人工智能近年來已經成為熱詞走入大眾視線，有的科技公司也對外宣稱自己的服務是由人工智能驅動的，但實際上它們是披著 AI 外衣的人工服務。

　　以下是文章主要內容：

　　打造一項由人工智能驅動的服務并非易事。事實上，一些初創公司發現，讓人類像機器人一樣行動比讓機器像人類一樣行動要更加便宜、更加容易。

　　“利用人來做事可以讓你跳過很多技術和業務發展方面的挑戰。很明顯，這不能規模化，但它允許你建立起某種東西，在一開始跳過困難的部分。”ReadMe 的***執行官格雷戈里·科貝格（Gregory Koberger）說道。他說他遇到過很多“假 AI”。

　　“這實際上是用人類來對 AI 進行原型設計。”他稱。

　　《華爾街日報》本周刊文提到了這種做法，重點談到被谷歌允許訪問用戶郵箱的數百名第三方應用開發者。

　　在圣何塞公司 Edison Software 的例子中，人工智能工程師們瀏覽了數百名用戶（個人身份信息經過處理）的個人電子郵件信息，以期改進“智能回復”功能。該公司沒有在其隱私政策中提及有人會查看用戶的電子郵件。

　　《華爾街日報》的文章著重談到的第三方遠非***個那么做的人。2008 年，致力于的 Spinvox 公司被指控利用在海外呼叫中心的人工而不是機器來完成將語音郵件轉換為文字信息的工作。

　　2016 年，彭博社也說過人類每天 12 個小時假裝是X.ai、Clara 等日程安排服務的聊天機器人，指出了這種困境。這種工作單調乏味讓人麻木，員工們都說他們期待著被機器人取代的那一天的到來。

　　2017 年，商業費用管理應用程序 Expensify 承認，它一直使用人工來處理至少一部分它對外聲稱用其“智能掃描技術”（smartscan technology）來完成的收據轉錄工作。那些收據的掃描照被發布到亞馬遜的 Mechanical Turk 眾包勞動工具上，然后由上面的低薪工作者們瀏覽和抄錄那些收據的信息。

　　“我想知道 Expensify 的 SmartScan 用戶是否知道輸入他們的收據信息的其實是 MTurk 眾包工作者。”“眾包工作者、Twitter 上的零工經濟勞工擁護者羅謝爾·拉普蘭特(Rochelle LaPlante)說道，“我在查看某人的 Uber 收據，上面有他們的全名以及上下車的地址。”

　　就連在人工智能領域投入巨資的 Facebook，也依賴人工來為其通訊應用 Messenger 提供虛擬助手服務。

　　在一些情況中，人類被用來訓練人工智能系統并提高它的準確性。一家名為 Scale 的公司為一群人類員工提供自動駕駛汽車和其他由人工智能驅動的系統的訓練數據。例如，Scale 員工將查看攝像頭或傳感器傳來的信息，然后在邊框內給汽車、行人和騎自行車的人貼上標簽。有了足夠多這樣的人工校準，人工智能將學會識別這些物體。

　　在其他的情況中，企業會假裝能成功：告訴投資者和用戶它們已經開發出一種可擴展的人工智能技術，但實際上它們是偷偷地依賴于人類智能。

　　心理學家、Woebot (一種用于心理健康支持的聊天機器人)的創始人艾莉森·達西(Alison Darcy)將該做法描述為“巫師般的設計技術”。

　　“你是在模擬某件事的最終體驗。很多時候，人工智能幕后是有一個人在操控，而不是算法。”她說。她還指出，建立一個良好的人工智能系統需要“大量的數據”，有時候，在進行那樣的投入之前設計師想要知道他們想要打造的服務是否有足夠多的需求。

　　她說，這種方法不適用于像 Woebot 這樣的心理支持服務。“作為心理學家，我們受到道德準則的約束。不欺騙別人顯然是其中一個倫理原則。”

　　研究表明，當人們認為自己是在和機器交談而不是與人交談時，他們往往更能敞開心扉，會表露更多的信息，因為尋求心理健康幫助被人看作是一種見不得人的事。

　　來自南加州大學的一個團隊用一位名叫艾莉（Ellie）的虛擬心理治療師進行了測試。他們發現，當退伍軍人知道艾莉是一個人工智能系統而不是有人在背后操縱機器時，他們更容易表露自己的癥狀。

　　另一些人認為，公司應該對其服務的運作方式始終保持透明。

　　對于企業假稱利用人工智能提供服務但實際上是由人類提供的做法，拉普蘭特說，“我不喜歡那樣做。對我來說，那感覺是不誠實的，具有欺騙性的，我可不希望我使用的服務出現這樣的情況。”

　　“從工作者的角度來看，感覺我們被推到了幕后。我不希望自己的勞動力為轉頭跟客戶謊稱一切的公司所利用。”

　　這種道德窘境也讓人聯想到假裝是人類的人工智能系統。最近的一個例子是谷歌的機器人助手 Google Duplex，它可以用“嗯”和“呃”等語氣詞來進行極其逼真的電話通話，代人完成預約和預訂事務。

　　在最初引發極大的爭議之后，谷歌說它的人工智能會向電話另一端的人類表明自己的身份。

　　達西說，“在他們的演示版本中，在低影響的對話中，感覺有點欺騙性。”盡管預訂餐廳座位可能看起來是一種沒什么大不了的互動，但同樣的技術如果落入壞人手中，操控性可能會大得多。

　　例如，如果你能模擬某位名人或政治家的口音，在電話通話中表現得像是真人一樣，會發生什么樣的事情呢？

　　達西指出，“人工智能已經讓人產生了很大的恐懼，在缺乏透明度的情況下，它并不能真正幫助人們進行對話。”