作者 | Sanjana Thakur

編譯 | 徐杰承

人工智能技術正在世界范圍內以一種前所未有的速度發展，大量的AI應用在短時間內被構建出來，當開發人員正在熱火朝天的追趕進度時，測試人員也需要及時跟上這個時代的步伐。

值得慶幸的是，隨著人工智能的快速進步，測試、自動化和質量保證 （QA） 的新方法也正在出現，為 AI 應用程序測試打開了新的大門。測試人員該如何在現在與將來測試AI和ML應用程序？以下是你應當了解的一些主要方法。

1.數據質量測試

數據測試環節需要使用基準來評估數據的狀態，雖然每家公司的目標可能有所不同，但高質量的數據通常是AI應用的最核心要求：

• 無誤差：所使用的數據沒有結構和格式的任何問題。
• 合并：數據在一個集中式系統中得到保護，而不是分散在多個系統中。
• 唯一性：數據不重復。
• 實時性：信息是及時和相關的。
• 準確性：提供準確的信息，幫助應用做出明智的決策。

測試數據質量意味著通過將企業信息與既定的已知事實進行比較來識別標記錯誤、過時或不相關的數據。在此級別的測試中，它可以像為數據集創建數據配置文件一樣簡單，此過程稱為合成數據生成。使用此數據集的定義驗證，公司可以對其數據是否有效進行分類，從而衡量其質量。

2.偏差測試

另一個越來越受歡迎的重要測試是偏差測試。人工智能系統的偏見在很大程度上取決于它收集的數據。

例如，2016年的一份報告發現亞馬遜偏向于男性IT申請人。當這家電子商務巨頭訓練其人工智能機器人找到最適合這份工作的候選人時，它使用現有員工的簡歷作為數據庫，這些數據庫主要是男性。根據這些信息，他們的人工智能推測只有男性候選人才能成為最好的IT員工，但事實并非如此。

為了避免犯同樣的錯誤，你應該在將算法推送到網上時進行偏差測試。

早在 2016 年，偏差測試只是分析需求以建立對一組輸入的適當響應的問題。現在，它沒有那么明確。你需要更多種類和更多選擇。你希望創建多個測試用例來考慮所有可能的變量，而不是使用一個數據集僅生成一個方案。雖然結果可能并不總是完美的，但它們仍然提供了一種更好、更公平、更全面的方法來消除偏見和開發更具包容性的人工智能應用。

3.AI 模型評估與測試

AI 模型評估和測試可幫助你預測分析和評估的結果，它涉及三個步驟：在 AI 測試的第一階段，收集的數據分為訓練集、驗證集和測試集。訓練集包含多達 75% 的數據集，并分配模型權重和偏差。驗證集由訓練期間 15% 到 20% 的數據組成，以評估初始準確性并查看模型如何適應、學習和微調超參數。

在此階段，模型僅考慮驗證數據，但尚未使用它來學習模型的權重和偏差。測試集則占整個數據集的 10% 到 15%。這用于最終評估，作為一個受控集，沒有偏見。

測試過程的第二階段是調整超參數。在此階段，開發人員可以控制訓練算法的行為，并根據第一階段的結果調整參數。在人工智能和深度學習的背景下，可能的超參數可能包括學習率、卷積核寬度、隱藏單元數量、正則化技術等。

最后，執行批量規范化涉及兩種技術：規范化和標準化，以便在訓練準備期間以相同的比例轉換數據。一旦AI模型經過充分的訓練、微調和標準化，就應該通過混淆矩陣、AUC ROC、F1分數和其他精度/準確度指標來衡量其性能。經歷這一嚴格的過程對于了解你的算法執行的有效性和準確性至關重要。

4.安全測試

測試你的AI應用程序的安全性需要結合傳統的安全性測試方法和特定于AI系統的考慮。從以下幾點開始考慮:

• 確定安全目標和風險:確定與AI應用程序相關的安全目標和潛在風險?？紤]數據隱私、模型完整性、對抗性攻擊和對輸入變化的魯棒性等方面。這一步將有助于形成你的測試策略。
• 數據安全性:評估用于訓練、驗證和推斷的數據安全性。評估數據隱私、存儲、處理實踐和訪問控制。確保敏感數據得到適當保護，并遵守隱私法規。
• 系統架構和基礎設施:分析人工智能應用程序的架構和基礎設施。考慮安全性方面，如身份驗證、授權和加密。驗證在系統的設計和實施中是否遵循了安全最佳實踐。
• 輸入驗證和凈化:注意輸入驗證和凈化機制。驗證應用程序是否正確處理輸入數據，以防止常見的漏洞，如注入攻擊或緩沖區溢出。
• 第三方組件:評估AI應用程序中使用的任何第三方庫、框架或組件的安全性。確保它們是最新的，沒有已知的漏洞，并且配置正確。
• 文件和報告:記錄你的發現、建議和測試結果。創建全面的安全測試報告，概述已識別的漏洞、風險和緩解措施。

5.性能和可擴展性測試

要對AI應用進行性能測試，需要全面了解應用的架構、組件和數據流至關重要。容量測試、耐久性測試和壓力測試是最重要的性能測試類型，必須在AI應用程序上執行，以評估其性能和可擴展性。

這可以通過不同的測試數據來實現，包括大的和小的測試數據集，因為大量的測試數據會占用更多的計算資源。此外，硬件資源的并行監控有助于設置正確的配置，以支持人工智能應用程序的預期用戶請求。

6.聊天機器人測試

隨著聊天機器人在人工智能應用中越來越受歡迎，確保這些機器人向用戶提供的信息是準確的至關重要。如果你的企業使用聊天機器人的功能，你必須測試聊天機器人的功能和非功能組件。

• 領域測試:聊天機器人旨在處理特定的領域或主題。領域測試包括在與其指定領域相關場景中徹底測試聊天機器人。這確保聊天機器人理解并準確響應其預期范圍內的查詢。
• 極限測試:極限測試評估聊天機器人如何處理不適當或意外的用戶輸入。這包括測試聊天機器人對無效或無意義問題的反應，并在聊天機器人遇到故障或錯誤時識別結果。極限測試有助于發現潛在的漏洞，并改善錯誤處理和用戶體驗。
• 對話因素:聊天機器人依靠對話流來提供有意義和引人入勝的互動。驗證不同的對話流對于評估聊天機器人在各種場景下的響應至關重要。這包括評估聊天機器人理解用戶意圖、處理對話中的多個回合以及提供相關和連貫響應的能力。評估對話因素有助于優化聊天機器人的對話技能，并增強用戶體驗。

7.機器人測試

機器人測試需要模擬真實世界的場景，并評估這些場景中系統或算法的行為?；谀M的行為測試包括算法調試、對象檢測、響應測試和驗證定義的目標。

為了確保全面的測試，你應該采用低保真度2D模擬和高保真度3D模擬。前者用于模塊級行為測試，后者用于系統級行為測試。這允許你在模擬中檢查不同級別的復雜性和準確性。該過程還測試硬件可用性場景和硬件不可用性場景。這些場景評估系統或算法在不同硬件條件下的行為和性能，確保在不同環境下的穩健性和適應性。

8.優先考慮測試

對于AI/ML應用的測試與傳統軟件測試有著很大不同，且存在著一些技術挑戰。但伴隨著越來越多AI/ML應用的誕生，對AI/ML應用的測試方法和實踐也在迅速發展和逐步完善。

以上便是目前為止對于AI/ML應用的一些有效且合理的測試方法及思路。如果你的企業使用或提供人工智能解決方案，你必須優先考慮全面的測試方法，以確保準確性，安全性和包容性。

原文鏈接：https://dzone.com/articles/10-top-trends-in-ai-based-application-testing-you