四家公司組成了一個新的聯(lián)盟，旨在促進負責任的人工智能(AI)開發(fā)，并在面臨越來越多的政府和社會審查時建立行業(yè)標準。

OpenAI網(wǎng)站上的一份聲明寫道：“Anthropic、谷歌、微軟和OpenAI宣布成立前沿模型論壇，這是一個新的行業(yè)機構(gòu)，專注于確保安全、負責任地開發(fā)前沿人工智能模型。”聲明稱，為了“整個人工智能生態(tài)系統(tǒng)”的利益，前沿模型論壇將利用其成員公司的技術和運營專業(yè)知識。該小組尋求推進技術標準，包括基準和評估，并開發(fā)一個解決方案的公共資源庫。

聯(lián)盟的核心目標包括：

推進人工智能安全研究，促進前沿模型的負責任開發(fā)，最大限度地降低風險，并實現(xiàn)對能力和安全的獨立、標準化評估。

確定負責開發(fā)和部署前沿模型的最佳實踐，幫助公眾了解技術的性質(zhì)、能力、局限性和影響。

與政策制定者、學者、民間社會和公司合作，分享有關信任和安全風險的知識。

支持開發(fā)有助于應對社會最大挑戰(zhàn)的應用程序，如減緩和適應氣候變化、早期癌癥檢測和預防以及應對網(wǎng)絡威脅。

論壇將“前沿模型”描述為大規(guī)模機器學習模型，在完成各種任務方面優(yōu)于當前頂級模型的能力。

該組織計劃解決負責任的人工智能開發(fā)問題，重點關注三個關鍵領域：確定最佳實踐、推進人工智能安全研究以及促進商業(yè)企業(yè)和政府之間的信息共享。論壇將協(xié)調(diào)研究，在對抗性、穩(wěn)健性、機制可解釋性、可擴展監(jiān)督、獨立研究訪問、緊急行為和異常檢測等領域推進這些工作。

列出的其他未來行動包括成立一個咨詢委員會來指導該聯(lián)盟的戰(zhàn)略和優(yōu)先事項，以及與一個工作組和執(zhí)行委員會一起組建章程、治理和資金等機構(gòu)。論壇表示支持現(xiàn)有的行業(yè)努力，如人工智能伙伴關系(Partnership on AI)和機器學習聯(lián)盟(MLCommons)，并計劃與民間社會和政府就“有意義的合作方式”進行協(xié)商。

盡管該聯(lián)盟只有四個成員，但它對那些積極開發(fā)和實施這些前沿模式、通過技術和體制手段對其安全表現(xiàn)出堅定承諾、并準備根據(jù)成員要求清單，通過積極參與聯(lián)合倡議來推進論壇目標的組織持開放態(tài)度。

該組織寫道：“論壇歡迎符合其他標準組織加入，并在確保安全和負責任地開發(fā)前沿人工智能模型方面進行合作。”

不過有批評人士表示，主要人工智能參與者的這些自我監(jiān)管嘗試可能會創(chuàng)造新一代的技術壟斷。

未來，政府和人工智能創(chuàng)新者之間需要持續(xù)深入的接觸。人工智能將影響生活和社會的方方面面，任何如此全面的技術，政府都必須發(fā)揮作用，保護大眾免受意外后果的影響，并圍繞這些新創(chuàng)新創(chuàng)造的重要問題建立一個單一的真相來源，包括安全人工智能的實際參數(shù)。

從長遠來看，需要將道德置于人工智能的中心，加深和維持對一定的減速帶，并最終確保人工智能成為一股向善的力量。這還包括確保法規(guī)不會削弱競爭，產(chǎn)生新一代技術壟斷。同時需要邀請所有人工智能社區(qū)負責任地參與這一社會變革。