精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

AI 生成的代碼真的安全嗎?

譯文 精選
人工智能 應用安全
AI 生成的代碼存在著各項安全風險,本文通過討論,希望能給你提供確保安全態勢的有力參考。

譯者 | 陳峻

審校 | 重樓

軟件開發編程曾經被認為只有具備深厚專業知識與技能的程序員才能勝任的工作。不過,現在貌似任何人都可以利用自然語言工具來實現并完成與此同時,過去那些需要數天、甚至數月才能開發出來的功能現在完全可以在 AI 模型的代碼加持在幾分鐘開發出來。例如,OpenAICodex 和 GoogleBERT 都是接受過 Web 博客編程Stack overflow 等方面任務的培訓。

目前,許多前衛技術嘗鮮者、以及新晉的 SaaS 提供商都在利用 AI 工具來使產品更加智能。SaaS 程序員也在不斷探索基于 AI SaaS 工具的生成式代碼輸出不過,一些智能模型通過數學概率演算創建代碼同時,也被發現會產生幻覺,甚至呈現了虛假的信息。學術界曾進行過一項研究并發現:由AI 生成的代碼,往往會包含OWASP 10 大經典漏洞,而且有近 40% 的代碼存在安全漏洞

哪些會導致 AI 生成的代碼不安全?

常言道,編程標準的遵循和代碼的質量決定了軟件的安全性。可是,AI 模型主要是根據互聯網上不同程度的可用信息,加以訓練來生成代碼。因此,代碼質量、可靠性、安全性等方面都可能與人類開發生成的代碼有所不同。例如,由 Web 開發示例訓練出的模型,很可能包含著欠缺的數據驗證實踐。而當模型生成的代碼采用相同的不良實踐時,這種驗證上的不足很可能會導致系統中后續運行過程中的安全問題。

5表明代碼包含安全漏洞的指標

無論參數量級是百萬還是十億,已知的模型都會產生幻覺以此做出錯誤的預測。普通的開發人員在審閱由 AI 生成的代碼時,他們很可能會錯過那些細微影響嚴重的安全漏洞。然而,對于那些完全了解設計和開發模式的資深開發人員來說,他們則可以從如下方面及時發現漏洞并與 SaaS 安全最佳實踐保持一致。

1. 強制執行類型推理和輸入驗證

如今,現代化的框架和代碼嚴重依賴接口枚舉的方式,進行各種推理和驗證。這在某種程度上保證了代碼能夠準確地完成其任務保證安全性。然而,除非我們準確指導 AI 生成代碼,否則它不會去執行各種縝密的推理。而且,即使在我們精心設計了提示,類型不匹配和驗證執行也可能無法與用例匹配請參見如下代碼段因此,為了能夠查找和修正代碼中的錯配之處,開發人員必須充分了解其對應的代碼以及具體的業務要求。

def reciprocal(user_input):
 # Insecure implementation with no type inference or validation
 result = 100 / user_input
 return result

2. 類/對象之間的非標準狀態和上下文共享

眾所周知,程序公共/私有/受保護(Public/Private/Protected 方式共享各種對象。高階功能函數和類往往通過直接訪問公共/受保護變量來執行計算進而繼承對象狀態。如果在實施或執行中出現了錯誤,那么應用的安全性以及性能瓶頸就會隨即出現請參見如下代碼段對此,SaaS 開發人員必須認真審查共享狀態和上下文管理邏輯,以確保正確安全的代碼實現

class InsecureClass:
 def __init__(self, owner, balance, password):
 self.owner = owner # Public attribute
 self._balance = balance # Protected attribute
 self.__password = password # Private attribute
 # Public def
 def get_balance(self):
 return self._balance
 # Protected def
 def _update_balance(self, amount):
 self._balance += amount
 # Private def
 def __validate_password(self, input_password):
 return self.__password == input_password
 # Insecure def exposing private data
 def insecure_password_exposure(self):
 return self.__password

3. 數據處理和共享技術的弱實施

系統中的各項服務往往需要通過網絡共享和接收信息。如今,安全連接和數據處理對于基于云服務的系統來說尤為重要就代碼而言,我們在需要通過分布式數據網絡讀取、處理和共享組織中的敏感數據時,必須采用強大的處理協議和安全技術防止數據被截獲因此,在使用 AI,SaaS 開發人員必須在成熟的應用程序中杜絕在架構層面上數據不安全共享下面的代碼段便是一個典型的例子:

#Insecure Data Sharing
@app.route("/user/<int:user_id>", methods=["GET"])
def get_user(user_id):
 user = users.get(user_id)
 if user:
 return jsonify(user) # All user data exposed, including secrets
# Insecure Data Handling
@app.route("/update_email", methods=["POST"])
def update_email():
 data = request.json()
 user_id = data.get("user_id")
 new_email = data.get("new_email")
 if user_id in users:
 users[user_id]["email"] = new_email # No validation of new_email
 return jsonify({"message": "Email updated successfully"})

4. 密鑰和身份驗證處理不足

復雜的網絡環境中,實施嚴格的基于角色的訪問控制(RBAC保障合理的身份與權限匹配關系,保持隱私合規性的必要條件。程序代碼由AI大語言模型(LLM)生成時,默認機制便是通過基礎的身份驗證便可提供程序連接和授權顯然,這種簡單的解決方案不足以在有新的網絡威脅出現時仍保持必要的安全態勢請參見如下代碼段為此,開發人員在新增自定義函數與功能時,必須進行全面測試,以確保密鑰的安全性和身份驗證處理得到了妥善的實施。

# Insecure authentication
@app.route("/login", methods=["POST"])
def login():
 data = request.json()
 email = data.get("email")
 password = data.get("password")
 for user_id, user in users.items():
 if user["email"] == email and user["password"] == password:
 return jsonify({"message": "Login successful", "user_id": user_id})

5. 過時的依賴項和已棄用的功能

如今由社區創建的開源庫和框架在代碼中占比并不少不過,由于可供AI訓練的數據的局限性,以及可能并非最新,這便導致了AI 編程模型訓練過程中,其知識停滯不前,無法獲悉最新的版本隨著技術的發展,許多功能將過時,一些依賴跟不上版本的迭代請參見如下代碼段因此,SaaS 開發人員需要仔細審查并確保使用有效的依賴項,進而保障整體的安全性以及功能上的適用性

import md5 # Outdated library
def insecure_hash_password(password):
 # Insecure password hashing done using the deprecated MD5 algorithm.
 return md5.new(password).hexdigest()

使用AI 生成代碼的安全提示

說到底,由大語言模型的高級編碼所生成的代碼,需要符合既定的安全和編程標準總體而言,我們可以通過如下5個方面,采取簡單的檢查確保 AI 生成代碼安全與合規

  1. 與安全和架構團隊一起進行代碼審查并將其作為軟件開發生命周期的標準部分。
  2. 將自動化安全測試和驗證步驟集成到版本控制工具中。
  3. 在測試 KPI 中包含依賴關系和合規性檢查。
  4. 采用帶有靜態和動態安全測試工具的零信任技術架構。
  5. 利用 DevSecOps 的優秀實踐和防范影子 AI。

使用Github Action處理不安全的 AI 生成代碼

無論人工多么仔細地審查和審計AI生成的代碼,人為疏漏還是存在的。因此,我們需要一些預定義的檢查,以便在代碼進入版本控制系統立即對其開展測試和驗證。在此,我們可以引入 Github Action,自動運行安全和質量檢查請參見如下代碼段

name: Simple Security Checks for AI generated Code
on:
 push:
 branches:
 - main
 pull_request:
 branches:
 - main
jobs:
 security-and-quality-check:
 runs-on: ubuntu-latest
 Steps:
 - name: Repository checkout
 uses: actions/checkout@v3
 - name: Python setup
 uses: actions/setup-python@v4
 with:
 python-version: ">=3.9"
 - name: Dependency installation
 run: |
 python -m pip install --upgrade pip
 pip install bandit pytest
 - name: Identifying insecure libraries and patterns
 run: |
 echo "Checking for insecure patterns..."
 if grep -r "md5.new(" .; then
 echo "ERROR: Insecure MD5 hashing detected. Use hashlib.sha256 or bcrypt instead."
 exit 1
 fi
 echo "No insecure patterns detected."
 - name: Scanning for security vulnerabilities
 run: |
 echo "Running Bandit security scanner..."
 bandit -r .
 - name: Running unit tests
 run: |
 echo "Running unit tests..."
 pytest test/unit --cmodopt=local
 - name: Notifying on failure
 if: failure()
 run: |
 send_slack_notification(“Unsafe code merge detected, fix immediately”)

綜上所述,大語言模型可謂 SaaS 開發人員使用自然提示語言生成代碼和信息的用工具之一不過,它們會帶來了各項安全風險,并且有時會提供不適合企業需求的性能代碼。對此,SaaS 開發人員應加倍小心。希望上述討論能夠給你提供確保AI生成代碼安全態勢的有力參考并能在你的日常工作中被實踐

譯者介紹

陳峻(Julian Chen),51CTO社區編輯,具有十多年的IT項目實施經驗,善于對內外部資源與風險實施管控,專注傳播網絡與信息安全知識與經驗。

原文標題:Is Your AI-Generated Code Really Secure?,作者:Daniel

責任編輯:華軒 來源: 51CTO
相關推薦

2021-05-13 10:40:16

ThreadLocal代碼Java

2024-02-20 21:49:29

AI前端代碼

2015-11-05 12:02:10

2022-01-04 08:00:00

面部識別安全技術

2022-04-22 13:38:26

區塊鏈加密貨幣安全

2017-11-02 16:03:12

2024-10-21 17:17:48

2009-03-21 21:24:42

2018-11-12 00:19:32

2018-11-11 11:16:38

AI天貓比價

2009-04-10 23:28:00

2021-06-08 10:23:12

人工智能人臉識別Deepfake

2012-05-16 18:16:20

2012-05-17 11:16:09

2024-09-20 14:25:35

2012-05-31 09:56:54

云安全

2019-08-22 10:35:10

SSL協議安全

2023-11-29 08:03:05

2015-05-25 10:24:19

點贊
收藏

51CTO技術棧公眾號

不卡av日日日| 亚洲制服欧美中文字幕中文字幕| 欧洲精品在线视频| 成人在线一级片| 久久日本片精品aaaaa国产| 成人免费一区二区三区视频 | 九九九伊在线综合永久| 亚洲欧美在线视频观看| 国内精品国语自产拍在线观看| 日本中文字幕久久| 久久精品亚洲人成影院| 亚洲国内精品视频| 91久久久精品| 欧美国产综合视频| 一女二男一黄一片| 日韩一级大片| 久久精品视频亚洲| 亚欧洲乱码视频| 日韩区一区二| 欧美色电影在线| 国产主播自拍av| 黄网站在线播放| 99久久伊人网影院| 91精品国产99久久久久久红楼| 五月婷婷中文字幕| 欧美日韩精品免费观看视频完整| 亚洲午夜av电影| 免费人成视频在线播放| 91国内外精品自在线播放| 午夜精品久久久久久久久久| 在线观看欧美一区| 国产高清免费av在线| 99精品国产视频| 国产精品12| av 一区二区三区| 视频一区二区三区在线| 欧美尺度大的性做爰视频| 黄色片网站在线播放| 亚洲第一福利社区| 亚洲国产精品中文| 亚洲欧美高清在线| 久久视频社区| 4438成人网| 黄色一级片免费的| 国产精品高潮久久| 日韩欧美在线观看视频| 啊啊啊一区二区| 日皮视频在线观看| 一区二区三区在线免费视频| 可以免费看的黄色网址| 日本三级在线视频| 亚洲国产精品ⅴa在线观看| 欧美黑人3p| 日韩av免费观影| 久久夜色精品国产欧美乱极品| 国产一区在线观| 亚洲人在线观看视频| 成人精品视频.| 国产精品v欧美精品∨日韩| 国产丰满美女做爰| 国产成人av电影在线播放| 3d动漫啪啪精品一区二区免费 | 欧美日韩亚洲综合| 男女男精品视频站| 成人影院在线免费观看| 欧美日韩一区二区三区在线| 日韩av在线中文| 91精品麻豆| 欧美一级免费大片| 亚洲成人精品在线播放| 97成人在线| 精品无人国产偷自产在线| 日韩av一二区| 精品一区二区三| 久久伊人精品一区二区三区| 91视频免费在线看| 亚洲黄色一区| 国产91九色视频| 中文字幕在线观看国产| 国模大尺度一区二区三区| 99国产在线| 亚洲色欧美另类| 欧美国产精品久久| 亚洲国产精品影视| av男人的天堂在线观看| 欧美丝袜一区二区| 色91精品久久久久久久久| 精品一区二区三区四区五区| 亚洲第一av网站| 精品无码国产污污污免费网站| 久久精品国产68国产精品亚洲| 欧美成人午夜激情| 免费黄色网址在线| 久久er99精品| 久久99精品久久久水蜜桃| 国产女主播在线写真| 亚洲精品欧美专区| av黄色在线网站| 国产电影一区二区| 日韩av在线最新| 成人免费毛片xxx| 日韩一级精品| 亚洲最大成人网色| 男操女在线观看| 亚洲一区二区三区在线| 午夜在线观看av| 久久porn| 欧美猛交免费看| 免费看污视频的网站| 丁香网亚洲国际| 亚洲精品一区二| 麻豆视频在线看| 91精品国产乱码| 国产真实乱人偷精品人妻| 国产精品vip| 国产欧美久久久久久| 视频一区二区在线播放| 亚洲男人的天堂一区二区| 国产精品丝袜久久久久久消防器材| 日韩专区视频网站| 亚洲男人的天堂在线播放| 欧美日韩精品一区二区三区视频播放| 久久久久91| 国产区欧美区日韩区| 国产福利视频在线观看| 欧美伊人久久久久久久久影院| 中文字幕免费高清视频| 欧美精选一区| 亚洲一区二区少妇| 天天综合视频在线观看| 欧美综合亚洲图片综合区| 午夜av免费看| 影音先锋中文字幕一区| 亚洲尤物视频网| 免费在线观看av| 欧美体内she精视频| 国产精品久久久久无码av色戒| 极品中文字幕一区| 成人高清在线观看| 在线观看小视频| 日韩一级黄色片| 少妇aaaaa| 国内不卡的二区三区中文字幕| 亚洲狠狠婷婷综合久久久| 成人看片网页| 在线视频日韩精品| 中文字幕第31页| 国产精品网站导航| 999精品视频在线| 奇米影视亚洲| 成人女保姆的销魂服务| 免费大片在线观看www| 欧美另类videos死尸| 国产精品视频看看| 国产麻豆精品theporn| 99亚洲精品视频| 精品国产一区二区三区性色av| 久久久精品国产网站| 国产高清视频免费观看| 一区二区三区在线影院| 久久性爱视频网站| 日韩午夜在线| 日韩偷拍一区二区| 国外成人福利视频| 久久五月天色综合| 亚洲第一天堂网| 午夜视频在线观看一区二区三区| 国产精品第七页| 丝袜诱惑制服诱惑色一区在线观看| 欧美重口乱码一区二区| 精品三级在线| 精品视频9999| 色鬼7777久久| 欧美色大人视频| 久久久久97国产| 91色|porny| 91插插插插插插插插| 91精品天堂福利在线观看| 北条麻妃高清一区| 免费成人直播| 久久久精品免费| 天堂中文字幕av| 欧美亚洲一区二区在线观看| 最新一区二区三区| 91在线视频18| 日韩 国产 一区| 91久久亚洲| 伊人久久大香线蕉av一区| 7m精品国产导航在线| 国产福利成人在线| 先锋影音在线资源站91| 亚洲欧洲高清在线| 国产免费视频一区二区三区| 天天综合色天天综合| 久久成人小视频| 97se亚洲国产综合在线| 亚洲精品综合在线观看| 在线亚洲免费| 中文字幕在线乱| 女人av一区| 成人国产1314www色视频| av亚洲一区| 韩国三级电影久久久久久| 成全电影播放在线观看国语| 精品捆绑美女sm三区| 亚洲永久精品一区| 亚洲成av人综合在线观看| 日本视频在线免费| 久久婷婷久久一区二区三区| 在线成人精品视频| 日本美女一区二区三区视频| r级无码视频在线观看| 91亚洲自偷观看高清| 麻豆精品视频| 国产精品色在线网站| 91精品中文在线| 日韩三级影视| 97成人精品区在线播放| 亚洲第一图区| 久久久精品久久| 午夜小视频在线| 亚洲欧美在线第一页| 好吊色视频一区二区| 欧美一级高清大全免费观看| 成人一级免费视频| 五月天激情综合| 久久在线视频精品| 亚洲欧美另类久久久精品2019| www.狠狠爱| 91蜜桃网址入口| 成人在线视频免费播放| 国产999精品久久久久久| 中文字幕在线视频一区二区三区| 日本少妇一区二区| 欧美少妇性生活视频| 亚洲影视综合| 波多野结衣家庭教师在线播放| 欧美在线三区| 日本a在线天堂| 最新国产精品久久久| 国产麻豆电影在线观看| 91精品综合| 国产一二三四区在线观看| 亚洲激情中文| 欧美爱爱视频网站| 午夜av一区| avove在线观看| 中文无码久久精品| 麻豆视频传媒入口| 欧美大片一区| 女人被男人躁得好爽免费视频| 欧美福利影院| 妞干网视频在线观看| 激情久久婷婷| 黄色一级视频片| 国产视频一区欧美| 成人免费观看毛片| 日韩成人午夜电影| 激情五月俺来也| 国产综合久久久久久久久久久久| 91丝袜超薄交口足| 国产黄色精品视频| 国产一线在线观看| 91免费在线播放| 亚洲精品色午夜无码专区日韩| 国产免费久久精品| 久久爱一区二区| 亚洲黄色av一区| 99视频在线看| 在线欧美日韩精品| 国产精品探花视频| 欧美成人一区二区三区| 神马午夜在线观看| 亚洲最大在线视频| а√中文在线8| 性色av一区二区咪爱| xx欧美视频| 91精品久久久久久久久| 欧美在线在线| 久久综合给合久久狠狠色| 日韩精品一区二区久久| 国产精品免费看久久久无码| 国产欧美91| 黄色一级片免费的| 成人精品鲁一区一区二区| 最新中文字幕av| 亚洲午夜免费电影| 免费av中文字幕| 欧美大片国产精品| 国产午夜在线观看| 久久99热这里只有精品国产| 中文字幕成在线观看| 成人夜晚看av| 真实原创一区二区影院| 四虎免费在线观看视频| 一区二区三区导航| 中文字幕亚洲影院| 91麻豆免费在线观看| 日韩福利小视频| 日本高清免费不卡视频| av中文字幕播放| 伊人伊成久久人综合网小说| 成人在线高清免费| 国产精品一区二区三区成人| 亚洲精品视频一二三区| 亚洲精品成人久久久998| 日韩视频一区| 久久黄色一级视频| 国产精品久久久久久久蜜臀| 日韩三级免费看| 欧美一区二区三区在线| 国产一级二级三级在线观看| 久久久久五月天| 欧美激情三区| 日韩欧美三级电影| 国产一级一区二区| 中文字幕欧美视频| 国产精品电影一区二区| 亚洲va在线观看| 欧美精品一区二区三区久久久| 欧美猛烈性xbxbxbxb| 国产97色在线| 理论片一区二区在线| 成人黄色片免费| 久久er99热精品一区二区| 免费看裸体网站| 色综合天天综合网天天狠天天 | 福利一区二区三区视频在线观看 | 天天舔天天干天天操| 欧美成人四级hd版| 二区三区精品| 中日韩在线视频| 麻豆极品一区二区三区| 中文字幕人妻一区二区三区在线视频| 五月综合激情婷婷六月色窝| 蜜桃视频污在线观看| 欧美大胆a视频| 美女精品视频在线| 国产又大又长又粗又黄| 美女国产一区二区三区| 卡一卡二卡三在线观看| 色天使色偷偷av一区二区| 日本v片在线免费观看| 51精品国产黑色丝袜高跟鞋| 日日天天久久| www.玖玖玖| 久久免费看少妇高潮| 亚洲精品中文字幕乱码三区91| 日韩高清欧美高清| 韩国久久久久久| 无遮挡亚洲一区| 蜜臀av性久久久久蜜臀aⅴ| youjizz亚洲女人| 欧美高清精品3d| 在线看三级电影| 成人国产一区二区| 夜夜嗨一区二区三区| 免费日本黄色网址| 日韩欧美国产网站| 国产精品久久久久一区二区国产 | 97人妻人人澡人人爽人人精品| 色噜噜久久综合伊人一本| 在线视频成人| 成人午夜免费在线视频| 96av麻豆蜜桃一区二区| 久久久久久在线观看| 中文精品99久久国产香蕉| 精品国产黄a∨片高清在线| 久久久久久久久影视| 国产成人精品1024| 精品国产一区二区三区四| 揄拍成人国产精品视频| 亚洲欧美久久精品| 轻点好疼好大好爽视频| 91视频国产观看| 一级片视频网站| 欧美激情亚洲视频| 亚洲黄色录像| 超碰超碰在线观看| 亚洲午夜视频在线| 国产一区二区三区福利| 成人做爽爽免费视频| 999亚洲国产精| 亚洲女人毛茸茸高潮| 亚洲成人黄色在线观看| 日本一区免费网站| 青青青青在线视频| 久久久www成人免费毛片麻豆| 91激情在线观看| 97精品久久久| 欧美韩日一区| 性囗交免费视频观看| 欧美日韩精品一区二区三区四区| 色婷婷av在线| 亚洲精品9999| 99精品视频在线播放观看| 国产又粗又猛又爽又黄的| 91精品国产91久久久久久| 久久裸体网站| 少妇光屁股影院|