3月30日消息，特斯拉?首席執(zhí)行官埃隆·馬斯克?（Elon Musk）、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）以及其他1000多人日前簽署了一封公開信，呼吁暫停訓練比GPT-4更強大的AI系統(tǒng)。美國主流網(wǎng)絡媒體BI認為，為了全社會的利益，AI開發(fā)需要放慢腳步。

在公開信中，沃茲尼亞克、馬斯克等人要求在AI技術(shù)變得日益強大之際，為其設置安全護欄，并暫停訓練更先進的AI模型。他們認為，對于像OpenAI的GPT-4這樣強大的AI模型，“只有在我們確信它們的影響是積極的、風險是可控的情況下才應該開發(fā)”。

當然，這并不是人們首次呼吁為AI設置安全護欄。然而，隨著AI變得越來越復雜、越來越先進，要求保持謹慎的呼聲也在不斷升高。

美國康奈爾大學數(shù)字和信息法教授詹姆斯·格里梅爾曼（James Grimmelmann）表示：“放慢新AI模型的開發(fā)速度是一個非常好的主意，因為如果AI最終對我們有利，那么等待幾個月或幾年也沒有壞處，我們無論如何都會到達終點。而如果它是有害的，那我們也為自己爭取了額外的時間，以制定應對的最佳方式，并了解如何與其作對抗。”

ChatGPT崛起凸顯出行動過快存在潛在危險

去年11月，當OpenAI的聊天機器人ChatGPT上市公測時，引起了巨大轟動。可以理解的是，人們開始推廣ChatGPT的功能，而它對社會的破壞性很快就顯現(xiàn)出來了。ChatGPT開始通過醫(yī)生職業(yè)考試，給出如何制作炸彈的說明，甚至為自己創(chuàng)造了另一個自我。

我們越多地使用AI，特別是ChatGPT或文本到圖像轉(zhuǎn)換工具Stable Diffusion等所謂的生成式人工智能（AIGC）工具，我們就越能看到它的缺點，它制造偏見的潛力，以及我們?nèi)祟愒谑褂盟牧α繒r顯得多么無力。

BI編輯哈桑·喬杜里（Hasan Chowdhury）寫道，AI有可能“成為渦輪增壓機，加速我們的錯誤蔓延開來”。就像社交媒體那樣，它可以利用人類最好的和最壞的東西。但與社交媒體不同的是，AI將更多地融入人們的生活。

ChatGPT和其他類似的AI產(chǎn)品已經(jīng)傾向于歪曲信息和犯錯誤，沃茲尼亞克曾公開談論過這一點。它很容易產(chǎn)生所謂的“幻覺”（不真實信息），就連OpenAI首席執(zhí)行官薩姆·阿爾特曼（Sam Altman）也承認，該公司模型可能會產(chǎn)生種族、性別歧視和帶有偏見的答案。Stable Diffusion也遇到了版權(quán)問題，并被指控從數(shù)字藝術(shù)家的作品中竊取靈感。

隨著AI融入更多的日常技術(shù)中，我們可能會在更大范圍內(nèi)給世界帶來更多錯誤信息。即使是對AI來說看似良性的任務，比如幫助策劃假期，也可能不會產(chǎn)生完全可信的結(jié)果。

當自由市場要求快速發(fā)展時，很難負責任地開發(fā)AI技術(shù)

需要明確的是，AI是一項令人難以置信的變革性技術(shù)，特別是像ChatGPT這樣的AIGC。開發(fā)機器來完成人們討厭的大部分乏味工作，從本質(zhì)上講并沒有錯。

盡管這項技術(shù)在勞動力中造成了生存危機，但它也被譽為科技行業(yè)的平等工具。目前也沒有證據(jù)表明，ChatGPT準備在未來幾年領(lǐng)導一場機器人叛亂。

許多AI公司都有倫理學家參與，以負責任的態(tài)度開發(fā)這項技術(shù)。但是，如果匆忙推出產(chǎn)品的重要性高于其社會影響，專注于安全創(chuàng)建AI的團隊就無法安心完成工作。

速度似乎也是這股AI熱潮中不可忽略的因素。OpenAI認為，如果該公司行動足夠快，就可以抵御競爭，成為AIGC領(lǐng)域的領(lǐng)導者。這促使微軟、谷歌和幾乎所有其他公司爭相效仿。

在強大的AI模型準備就緒之前就發(fā)布給公眾體驗，并不能讓這項技術(shù)變得更好。人們還未找到AI的最佳用例，因為開發(fā)人員必須撲滅他們所創(chuàng)造技術(shù)引發(fā)的喧囂，而用戶則被噪音分散了注意力。

并不是每個人都希望放慢速度

馬斯克等人的公開信也受到其他人批評，他們認為其沒有切中要害。

華盛頓大學教授艾米麗·本德（Emily M. Bender）在推特上表示，馬斯克和其他科技領(lǐng)袖在炒作周期中只關(guān)注AI的強大程度，而不是它能造成的實際損害。

康奈爾大學數(shù)字和信息法教授格里梅爾曼補充說，在這封公開信上簽名的科技領(lǐng)袖“姍姍來遲”，并打開了一個潘多拉盒子，可能給自己帶來麻煩。他稱：“現(xiàn)在他們已經(jīng)在這封信上簽名，那么他們就不能轉(zhuǎn)身再說，不能對自動駕駛汽車等其他技術(shù)施行同樣的政策。”

暫停開發(fā)或施加更多監(jiān)管可能會也不會取得成果。但現(xiàn)在，話題似乎已經(jīng)轉(zhuǎn)向。AI已經(jīng)存在了幾十年，或許我們還可以再多等幾年。