2022 年，超過 5,000 名受害者通過電話被騙走錢財。

• 人工智能語音生成軟件讓騙子可以模仿親人的聲音。
• 這些假冒行為導致人們在 2022 年通過電話被騙走 1100 萬美元。
• 老年人占目標人群的大多數。

一段時間以來，人工智能一直是科技界的中心話題，因為微軟繼續在其產品中注入ChatGPT，而谷歌則試圖通過推出自己的人工智能產品來跟上潮流。雖然人工智能有潛力做一些真正令人印象深刻的事情——比如根據一行文本生成圖像——但我們開始看到幾乎不受監管的技術的更多缺點。最新的例子是人工智能語音發生器被用來騙取人們的錢財。

人工智能語音生成軟件近來一直是頭條新聞，主要是因為竊取了配音演員的聲音。最初，軟件只需要幾句話就可以令人信服地再現揚聲器的聲音和語氣。該技術已經發展到只需幾秒鐘的對話就足以準確模仿某人的程度。

在《華盛頓郵報》的一份新報告中，數以千計的受害者聲稱他們被冒充親人的冒名頂替者所欺騙。據報道，冒名頂替詐騙已成為美國第二大最受歡迎的欺詐類型，2022 年提交的案件超過 36,000 起。根據 FTC 官員的說法，在這 36,000 起案件中，超過 5,000 名受害者通過電話騙走了他們的錢，損失總額達 1,100 萬美元.

一個突出的故事涉及一對老年夫婦，他們認為他們與兒子交談過后，通過比特幣終端向詐騙者發送了超過 15,000 美元。人工智能的聲音讓這對夫婦相信，他們的兒子在一場車禍中殺死了一名美國外交官后陷入了法律糾紛。

與故事中的受害者一樣，這些襲擊似乎主要針對老年人。這并不奇怪，因為在涉及金融詐騙時，老年人是最脆弱的群體之一。不幸的是，法院尚未就公司是否應對人工智能語音發生器或其他形式的人工智能技術造成的損害承擔責任做出決定。