OpenAI公司日前宣布將在其人工智能工具中構建安全措施。該公司是功能強大的GPT-4大型語言人工智能模型的開發(fā)者，該模型是其ChatGPT聊天機器人和其他人工智能系統(tǒng)的核心。隨著越來越多的人要求對生成式人工智能系統(tǒng)的開發(fā)采取更多控制措施，該公司為此不得不披露了這一信息。

OpenAI公司在一篇博客文章中詳細介紹正在采取的措施，以阻止其人工智能系統(tǒng)生成有害內(nèi)容，避免違反數(shù)據(jù)隱私法規(guī)。雖然該公司開發(fā)的人工智能工具在全球范圍內(nèi)引領了一場生成式人工智能熱潮，但在最近幾周，監(jiān)管機構開始對這種人工智能系統(tǒng)的安全性產(chǎn)生興趣，意大利以潛在違反GDPR法規(guī)為由禁止使用ChatGPT。

包括馬斯克和蘋果聯(lián)合創(chuàng)始人沃茲尼亞克在內(nèi)的人工智能專家近日在一封公開信上呼吁，暫時停止大型語言模型(LLM)的開發(fā)，美國總統(tǒng)拜登也加入了這一討論，他告訴媒體記者，人工智能公司必須把安全放在首位。

OpenAI公司如何在考慮安全的情況下構建GPT-4

OpenAI公司表示，在上個月發(fā)布其迄今為止最先進的GPT-4之前，該公司花了六個月的時間來完善該系統(tǒng)，使其盡可能難以被用于邪惡目的。

安全研究人員此前曾證明，通過“欺騙”聊天機器人，使其模仿糟糕的人工智能系統(tǒng)生成仇恨言論或惡意軟件代碼，從而繞過ChatGPT的安全控制是可能的。OpenAI公司表示，與GPT-3.5模型相比，GPT-4不太可能出現(xiàn)這種情況。

該公司的工程師表示：“與GPT-3.5相比，GPT-4對不允許內(nèi)容的請求做出回應的可能性降低了82%，我們已經(jīng)建立了一個強大的系統(tǒng)來監(jiān)控人工智能系統(tǒng)的濫用。我們還在開發(fā)一些功能，能夠使開發(fā)人員為模型輸出設置更嚴格的標準，以更好地支持需要此類功能的開發(fā)人員和用戶。”

OpenAI公司的人工智能系統(tǒng)會泄露互聯(lián)網(wǎng)用戶的個人數(shù)據(jù)嗎?

該公司還借此機會回應了數(shù)據(jù)監(jiān)管機構對其模型從互聯(lián)網(wǎng)上收集數(shù)據(jù)用于培訓目的的方式的擔憂。在意大利禁止ChatGPT之后，加拿大對這種聊天機器人的安全性展開了調查，歐洲其他國家正在考慮是否效仿意大利的做法。

OpenAI公司表示：“我們的大型語言模型是在廣泛的文本語料庫上進行訓練的，其中包括公開可用的內(nèi)容、授權內(nèi)容以及人工審稿人生成的內(nèi)容。我們不會將數(shù)據(jù)用于銷售服務、發(fā)布廣告或建立用戶檔案。”

該公司還對如何確保個人數(shù)據(jù)在培訓期間不被泄露進行了詳細說明。該公司表示：“雖然我們的一些訓練數(shù)據(jù)包括在公共互聯(lián)網(wǎng)上可以獲得的個人信息，但我們希望我們的大型語言模型了解世界，而不是個人。

因此，我們努力在可行的情況下從訓練數(shù)據(jù)集中刪除個人信息，微調模型以拒絕對個人信息的請求，并響應個人從人工智能系統(tǒng)中刪除個人信息的請求。這些步驟最大限度地降低了我們的模型產(chǎn)生包含個人信息的響應的可能性。”

美國總統(tǒng)拜登加入了人工智能反對者的行列

在OpenAI公司發(fā)表這一聲明之前，美國總統(tǒng)拜登對媒體記者表示，人工智能開發(fā)者有責任確保他們的產(chǎn)品在公開之前是安全的。

拜登在與他的科學技術顧問委員會討論人工智能的發(fā)展后發(fā)表了講話。他表示，美國政府致力于推進去年10月推出的《人工智能權利法案》，以保護個人免受先進自動化系統(tǒng)的負面影響。

拜登說：“我們在去年10月提議了一項權利法案，以確保重要的保護措施從一開始就內(nèi)置在人工智能系統(tǒng)中，這樣我們就不必回頭去做了。我期待我們的討論能夠以確保負責任的創(chuàng)新和適當?shù)淖o欄，以保護美國民眾的權利和安全，保護他們的隱私，并解決可能存在的偏見和虛假信息等問題。”