ChatGPT 要發“成人版”,將放松內容限制
最近一階段,網絡上大量吐槽ChatGPT過于機械保守,回復謹小慎微,刻板無趣。不過情況要改變了,ChatGPT 即將放松內容限制。
OpenAI CEO Sam Altman 透露,ChatGPT 將在未來幾周內推出新版本,允許更加人性化的對話方式。12月將進一步開放,經過年齡驗證的成年用戶可以訪問包括情色內容在內的更多功能。
Altman 表示,此前為防范心理健康風險,ChatGPT 的限制設置過于嚴格,影響了大多數正常用戶的使用體驗。經過技術改進,現在可以在保證安全的前提下放松限制。
新版本將允許用戶自主選擇 ChatGPT 的回復風格,包括使用大量表情符號或像朋友一樣對話。但這些功能需要用戶主動開啟,不會默認激活。
關于成年人內容,Altman 強調這是"把成年人當成年人對待"原則的一部分。用戶不會在未主動要求的情況下接觸到相關內容。不過,目前尚不清楚 OpenAI 將如何在不侵犯隱私的前提下進行年齡驗證,以及如何界定"成年人內容"的具體范圍。
用戶反應不一。有人認為 ChatGPT 從能正常對話變成了"合規機器人",放松限制是好事。也有用戶質疑為何成年人驗證必然與情色內容掛鉤。
就有用戶抱怨,現在的 ChatGPT 連評價穿搭是否合適這樣簡單的問題都不敢直接回答。
OpenAI 正在試圖找一個平衡點,這也是一個國民app都必須要經歷的事情。
Altman 在回復中提到,即使只有 0.1% 的用戶存在心理健康風險,在十億用戶基數下也意味著一百萬人,因此必須謹慎處理。
一方面要承擔起對潛在風險用戶的責任,另一方面也不想犧牲大多數用戶的體驗。把選擇權交還給用戶,同時設置好清晰的邊界(比如年齡驗證),可能是目前能想到的最好辦法。
除此之外,還有版權,隱私等等頭疼的事情需要他們處理,OpenAI本身也要成熟穩重起來。
本文轉載自???AI工程化???,作者:ully

















