根據行業媒體的報道，由于擔心ChatGPT這款強大的聊天機器人可能被用于犯罪活動，OpenAI對一些國家和地區的應用進行了限制。但研究發現，來自俄羅斯的一些網絡犯罪分子為了采用ChatGPT，一直在試圖尋找新的方法來繞過現有的限制措施，并發現了包括繞過IP、支付卡和電話號碼限制措施的案例。 

研究人員在黑客論壇上發現俄羅斯黑客試圖繞過限制以訪問ChatGPT的證據

自從2022年11月推出以來，ChatGPT已經成為開發人員、作家和學生的重要工作流程工具，但也成為了能夠被網絡犯罪分子利用的有力武器，有證據表明黑客使用它來編寫惡意代碼和改進釣魚電子郵件。

ChatGPT可能被用于惡意目的，這意味著OpenAI需要限制該工具的部署方式，因為黑客采用ChatGPT能夠更快地實施惡意攻擊。OpenAI為此采用地理位置屏蔽措施，以阻止俄羅斯用戶訪問該系統。

但是，Check Point Software研究人員在地下黑客論壇上發現了多個來自俄羅斯的黑客談論如何規避這些限制的案例。例如，來自俄羅斯的一個黑客團伙在論壇上提出了一個問題——如果他們無法正常進入ChatGPT，如何使用被盜的支付卡支付OpenAI賬戶，并使用API訪問系統？該系統目前是一個免費使用的預覽版，而API包括文本和代碼生成會話期間使用代幣支付費用。

Check Point威脅情報部門經理Sergey Shykevich表示，繞過OpenAI的限制措施并不是特別困難，“我們現在看到俄羅斯的一些黑客已經在討論和檢查如何越過地理圍欄，并將ChatGPT用于他們的惡意目的。我們認為這些黑客很可能試圖在他們的網絡犯罪活動中測試和采用ChatGPT。網絡犯罪分子對ChatGPT越來越感興趣，因為它背后的人工智能技術可以讓他們的網絡攻擊更加高效。” 

這些地下黑客論壇還提供了一些俄語教程，提供半合法的在線短信服務，以及如何使用它們注冊ChatGPT，使得看起來是在沒有被屏蔽的其他國家使用ChatGPT。 

黑客從這些論壇上得知，他們只需要支付2美分購買一個虛擬號碼，然后用這個號碼從OpenAI獲取代碼。這些臨時的電話號碼可以來自世界上任何地方，也可以根據需要生成新號碼。 

Infostealer和ChatGPT的惡意使用

在此之前的調查發現了網絡犯罪分子在這些黑客論壇上發布如何利用ChatGPT進行非法活動的例子。這其中包括創建很簡單的Infostealer。隨著人工智能工具的廣泛使用，這些Infostealer將會變得更加先進。 

Infostealer是采用這些“簡單工具”的一個例子，它出現在一個黑客論壇上的一篇名為“ChatGPT——惡意軟件的好處”的帖子上。發布這個帖子的作者指出，黑客可以使用ChatGPT，通過向人工智能工具輸入描述和報告來重新創建惡意軟件，然后共享基于Python的竊取代碼，該代碼可以搜索常見的文件類型，將它們復制到隨機文件夾，并將它們上傳到硬編碼的FTP服務器。 

Shykevich說。“網絡罪犯分子發現ChatGPT很有吸引力。在最近幾周，我們發現了黑客開始使用ChatGPT編寫惡意代碼的證據。ChatGPT有可能為黑客提供一個良好的起點從而加快網絡攻擊的進程。正如ChatGPT可以用于幫助開發人員編寫代碼一樣，它也可以用于惡意目的。” 

OpenAI表示，已經采取措施限制ChatGPT的使用，包括限制可以發出的請求類型，但有些請求可能會被遺漏。也有證據表明，其提示被用來“欺騙”ChatGPT，以研究為幌子或作為虛構的示例，可以提供可能有害的代碼示例。 

ChatGPT和潛在的錯誤信息 

與此同時，OpenAI正在與喬治敦大學安全和新興技術中心以及斯坦福互聯網天文臺合作，研究大型語言模型(例如ChatGPT的基礎GPT-3)可能被用來傳播虛假信息的方式。 

這種模型可用于降低運營影響力行動的成本，使其處于新型網絡犯罪分子的可控范圍內，而以前只有大型參與者才能訪問這類內容。同樣，能夠自動制作文本的招聘人員可能會獲得新的競爭優勢。

黑客利用ChatGPT還會導致不同的行為，加大網絡攻擊規模，并且與人工創建相比允許創建更多的個性化和針對性內容。最后，他們發現文本生成工具能夠生成更有影響力和更有說服力的信息，相比之下，大多數人工生成的宣傳文檔通常是黑客可能缺乏目標所需的語言或文化知識。

OpenAI的研究人員宣稱：“我們的基本判斷是，語言模型對品牌的宣傳者很有用，并可能改變在線影響力的運營。即使最先進的模型是加密的，或者通過應用程序編程接口(API)訪問來控制，宣傳者也可能會傾向于采用開源的替代方案。”