2 月 19 日消息，隨著深度偽造技術（deepfake）的不斷發展，人們對虛假信息、詐騙和身份盜竊的擔憂日益加劇。一項最新研究顯示，人們對 AI 工具的認知水平極低，難以有效識別深度偽造內容。

根據 iProov 的一項最新研究，大多數人在區分深度偽造內容與真實內容時存在困難。該研究邀請了來自英國和美國的 2000 名參與者，向他們展示了一系列真實和 AI 生成的圖像及視頻。結果顯示，僅有 0.1% 的參與者 —— 也就是兩個人，能夠準確區分真實內容與深度偽造內容。

研究還發現，老年人更容易受到人工智能生成的虛假內容的欺騙。大約 30% 的 55 至 64 歲人群和 39% 的 65 歲以上人群此前從未聽說過深度偽造。盡管年輕參與者對自己的深度偽造檢測能力更有信心，但他們在測試中的實際表現并未優于其他年齡段。

研究發現，深度偽造視頻比圖像更難被識別，參與者正確識別假視頻的可能性比識別假圖像低 36%。

IT之家注意到，社交媒體平臺被認為是深度偽造內容的主要傳播渠道。近半數參與者（49%）認為 Meta 旗下的平臺，包括 Facebook 和 Instagram，是深度偽造內容最常見的來源，而 47% 的人則指向 TikTok。

即使人們懷疑某個內容是深度偽造，大多數人也不會采取行動。只有 20% 的受訪者表示，如果在網上遇到疑似深度偽造內容，他們會進行舉報。

隨著深度偽造技術愈發逼真，iProov 認為僅靠人類感知已無法可靠地識別深度偽造內容，需要采用帶有活體檢測功能的生物識別安全解決方案來應對日益逼真的深度偽造威脅。