合成現(xiàn)實

(1) 挑戰(zhàn)

人工智能可以生成超現(xiàn)實的圖像和視頻，顯示人們在做或說他們從未做過或說過的事情。這樣的“深偽技術(shù)”會使虛假信息的傳播更加難以察覺。

(2) 解決方案

IEEE高級會員Carmelo José AlbanezBastos Filho表示：“人工智能算法經(jīng)過訓練，可以識別深偽技術(shù)特有的模式和特征。這些算法分析視覺和音頻特征，尋找不規(guī)則或與正常模式的偏差。”

數(shù)據(jù)泄露

(1) 挑戰(zhàn)

你輸入聊天機器人的信息可以用來訓練它。這可能會導致模型泄露敏感或私人信息。

(2) 解決方案

對于聊天機器人數(shù)據(jù)隱私問題，IEEE會員汪齊齊教授指出：“將敏感數(shù)據(jù)存儲在私有環(huán)境中可以有效避免數(shù)據(jù)被添加到公共的全球數(shù)據(jù)庫中。”

虛假數(shù)據(jù)

(1) 挑戰(zhàn)

有偏見、不準確或虛假的數(shù)據(jù)可能會被注入人工智能模型，從而產(chǎn)生錯誤的結(jié)果和有缺陷的系統(tǒng)。人工智能威脅檢測技術(shù)已經(jīng)在現(xiàn)實世界中被用來重新培訓“垃圾郵件”過濾器。

(2) 解決方案

IEEE終身高級會員Raul Colcher表示：“這種形式的攻擊，可以采用更加嚴格的數(shù)據(jù)過濾和審查機制，確保模型的學習和訓練不受不當干擾。先進的過濾、監(jiān)控和人工監(jiān)督系統(tǒng)已經(jīng)對其進行了反擊。”

高級網(wǎng)絡(luò)釣魚

(1) 挑戰(zhàn)

網(wǎng)絡(luò)釣魚詐騙涉及使用欺詐電子郵件誘騙人們或公司匯款或共享敏感數(shù)據(jù)。人工智能使創(chuàng)建更真實但仍然具有欺騙性的電子郵件和語音郵件變得更容易。

(2) 解決方案

IEEE會員Yale Fox表示：“組織可考慮投入先進的威脅檢測技術(shù)，及時發(fā)現(xiàn)和攔截惡意嘗試。這些技術(shù)利用機器學習和人工智能來識別和標記潛在的網(wǎng)絡(luò)釣魚企圖。”

躲避系統(tǒng)防護

(1) 挑戰(zhàn)

人工智能開發(fā)人員通常會創(chuàng)建防護欄，以防止他們的創(chuàng)作產(chǎn)生攻擊性或非法內(nèi)容。

(2) 解決方案

IEEE會員Rebecca Herold表示：“總有人會努力破解系統(tǒng)。阻止它們的最好方法是進行更嚴格地開發(fā)，然后全面測試大型語言模型算法。”

AI VS AI

(1) 挑戰(zhàn)

人工智能正被用來利用或?qū)蛊渌斯ぶ悄芟到y(tǒng)——通過對抗性人工智能等技術(shù)來欺騙通常具有關(guān)鍵安全要求的系統(tǒng)。

(2) 解決方案

IEEE高級會員Amol Gulhane表示：“通過在訓練過程中將模型暴露在各種攻擊場景中，它將變得更加完善，能夠識別和拒絕惡意輸入。”