作者 | 王瑞平
5月30日，一封由非營利組織人工智能安全中心（Center for AI Safety）發布的簡短聲明轟動了AI界，導致人工智能的地位可能會被動搖。
我們在該組織的官網上找到了這份聲明。聲明中僅有22個單詞，卻飽含了專家對AI的“控訴”：需要減輕人工智能可能導致的人類滅絕風險，并將其放在與流行病、核戰等社會問題的同一高度，并作為全球優先事項推進。
倡議已獲得多位AI行業大佬支持，截至目前，已有超過350位AI領域高管和專家簽署了這份聲明。其中的主要簽署者包括Google DeepMind首席執行官戴米斯·哈薩比斯（Demis Hassabis）、OpenAI首席執行官山姆·奧特曼（Sam Altman）、“AI教父”杰弗里·辛頓（Geoffrey Hinton）、2018年圖靈獎得主約書亞·本希奧（Youshua Bengio）、Anthropic的首席執行官達里奧·阿莫代（Dario Amodei）。
ChatGPT引發了AI熱，也造成人們對該項技術潛在風險的擔憂持續增加。其實，今年早些時候，包括特斯拉CEO馬斯克在內的1000多名行業高管和專家就簽署了公開信，呼吁6個月內暫停高級AI的開發。此事件在當時對AI造成了一定的沖擊。
1、AI可能造成人類滅絕
AIGC、AGI以勢如破竹的速度席卷幾乎每一個領域，但是，狂熱過后，人們也開始理性的思考AI是否會干擾人類活動。上述高管和專家們的聲明也并非空穴來風，他們主要的目的是警告：AI可能為人類帶來滅絕風險。
人工智能安全中心執行主任丹·亨德里克斯（Dan Hendrycks）在接受《紐約時報》采訪時表示：“聲明很簡潔，沒有提出減輕人工智能威脅的潛在方法，旨在避免分歧。”
簽署聲明的專家則認為，如果人工智能發展失控、缺乏相應的對策與管理措施，很可能導致人類滅絕。這需要相關企業與人類保持警惕，需要采取必要措施以確保其安全發展。
由人類滅絕問題，我們也可以引申到如何平衡個人利益與社會利益問題，特別是AI企業與研究機構，需要避免過于片面的追求利益，忽視可能造成的影響。
2、AI失控、過度替代人工
如果AI失控，超出了人類的理解與管理范圍，將可能造成災難性后果，這是最嚴重的情況。此外，由AI失控引發的技術被惡意利用或者出于非理性目的使用，也可能造成毀滅性的結果。
再有就是AI過度替代人工。如果人工智能過快并廣泛地替代人類勞動，那么可能導致大規模失業與社會動亂，這同樣具有毀滅性風險。
在戰爭方面，當人工智能作為武器使用也可能導致滅絕級后果，這需要嚴格限制與管理。而當人工智能技術被判斷失誤、產生偏差的時候，也可能導致災難性結果。這也需要在開發過程中增加必要的控制與監督。
3、AI詐騙層出不窮
針對AI造成的另一種負面影響，當屬最近發生的AI詐騙事件。近日，包頭警方發布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。
4月20日中午，郭先生的好友突然通過微信視頻聯系他，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。
基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上。郭先生撥打好友電話才知道被騙。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。
繼此前“10分鐘被AI換臉騙走430萬元”事件引發關注之后，5月22日，又一起AI換臉詐騙發生，此次金額高達132萬，且整個詐騙過程時間只有9秒鐘。
5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉一筆賬。但9秒之后，對方以“在開會”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ”。
“因為打了視頻電話，又是熟人，我就沒多想，就轉賬了。”何先生回憶被騙經歷時說。
4、面對AI詐騙，我們能做些什么？
面對AI詐騙，我們能做些什么來應對呢？可以參考如下措施：減少自己照片與音視頻的曝光度，防止被騙子收集用于AI換臉或擬聲。此外，在與對方溝通時，可以詢問共同知曉的信息，真信息中摻假信息，讓對方多與你溝通，看是否有破綻。
視頻時讓對方多做一些面部表情或肢體語言，看是否有失真現象。觀察視頻通話中對方的眼睛，多數假臉都是使用睜眼照片合成，假臉極少甚至不會眨眼，缺少眨眼是判斷一個視頻真假的好方法。注意語音和嘴唇運動的同步狀況、情緒不符合、模糊的痕跡、畫面停頓或變色等異常現象，這些可能是AI換臉的痕跡。
總之，防范人工智能風險需要全社會共同努力。政府、企業與個人都需要各自發揮作用，通過科學管理、安全防范、認知提高與人類發展來確保人工智能的安全與可控發展。
5、用戶評價：AI界又一次集體刷存在感
對于此事，有的網友認為，人類最終有可能被自己創造的機器人滅絕，也有的網友認為這絕不可能，既然人類早有預料，那一定有預防措施。
客觀、清醒的網友則認為，這是AI界又一次集體刷存在感、博人眼球，大家也別太當真，至少國內的研究如果真停下來，那才是掉進坑里了。
有網友指出，研究可控制、可解釋、可信賴、安全的人工智能當然是值得關注的事情，但將AI滅絕人類嚴重程度和流行病、核武器提升到一個層面真是一個可笑的比喻。
但是，也有網友認為，這個聲明的發布總體來說是好事，讓更多的人意識到AI的潛在風險，需要盡快制定監管政策。
6、寫在最后：專家怎么認為？
前天，谷歌首席執行官桑德爾·皮查伊（Sundar Pichai）在布魯塞爾與歐盟官員會晤討論AI政策，他的觀點比較中立：“需要對技術進行適當監管且不會扼殺創新。”
微軟（Microsoft）聯合創始人比爾·蓋茨（Bill Gates）則警告稱，人工智能助手可能很快就會徹底改變用戶的在線行為，從而淘汰谷歌等搜索引擎和亞馬遜。
據美國全國廣播公司財經頻道（CNBC）報道，蓋茨本周在舊金山舉行的高盛人工智能活動上表示：“獲得了AI個人助理（personal agent），你不會再去搜索網站，也不會瀏覽亞馬遜。”
他說，人工智能助手可以“閱讀你沒有時間閱讀的東西”，讓用戶無需使用谷歌等搜索引擎就能獲取信息。
觀網小伙伴，對于這項聲明你怎么看？你覺得AI會導致人類滅絕嗎？
參考資料：
https://futurism.com/the-byte/bill-gates-ai-poised-destroy-search-engines-amazon
https://www.zhihu.com/question/603797685
https://www.wired.com/story/runaway-ai-extinction-statement/
https://futurism.com/the-byte/bill-gates-ai-poised-destroy-search-engines-amazon
