研究表明：為 AI 生成圖像添加的數(shù)字水印可被輕易破解
10 月 6 日消息，據(jù)外媒 Engadget、Wired 等報道，美國馬里蘭大學的一個研究小組對 AI 生成內容的“數(shù)字水印”技術可靠性進行研究，發(fā)現(xiàn)這一技術可被輕易破解。
該校計算機科學教授 Soheil Feizi 面對 AI 生成圖像的水印現(xiàn)狀時直言不諱：“目前我們沒有任何可靠的水印技術，我們破解了所有的水印?！?/p>
在測試過程中，研究人員可輕松避開現(xiàn)有的水印方法，并發(fā)現(xiàn)在非 AI 生成的圖像上添加“假水印”更為容易。同時，該團隊還開發(fā)出了一種“幾乎無法”從圖像中去除的水印技術，且不會完全損害圖像的知識產(chǎn)權。
而在加州大學圣巴巴拉分校和卡內基梅隆大學合作的一項類似研究中，研究人員發(fā)現(xiàn)通過“模擬攻擊”，AI 生成圖像的水印可被輕易去除：通過破壞性的調整亮度、對比度或壓縮乃至旋轉圖像來去除，或通過建設性的高斯模糊等技術來去除。
據(jù)報道，AI 生成數(shù)字水印將成為一場與黑客之間的競爭。這種水印盡管肉眼不可見，但可以打擊濫用 AI 生成的內容。
IT之家此前報道，美國政府曾在 7 月下旬宣布，已獲得多家人工智能頭部公司的自愿承諾，將對人工智能生成的內容加水印等措施，以幫助提高技術的安全性。
亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意提高其系統(tǒng)的安全性和透明度，包括允許第三方專家對其模型進行審查。
在發(fā)給 TechRadar 的一份聲明中，美國政府表示：“正在開發(fā)這些新興技術的公司有責任確保其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國政府鼓勵該行業(yè)堅持最高標準，以確保創(chuàng)新不會以犧牲美國人的權利和安全為代價。”
