AI是企業的朋友還是敵人？集成GenAI的挑戰與機遇
SolarWinds公司最新發布的2024年IT趨勢報告《AI：朋友還是敵人？》顯示，盡管90%的IT專業人士希望在其組織中實施生成性人工智能（genAI），但超過一半的人對集成、安全和隱私問題表示擔憂。
在對大約7000名IT專業人士進行的在線調查中，SolarWinds公司發現，盡管幾乎所有受訪者都渴望采用genAI和其他基于AI的工具，但不到一半的受訪者認為他們的基礎設施能夠適應這項新技術。只有43%的受訪者表示他們相信公司的數據庫能夠滿足AI增加的需求，而更少的人（38%）信任用于開發這項技術的數據或訓練的質量。
報告指出，隱私和安全問題被認為是genAI集成的主要障礙，IT專業人士特別呼吁增加政府監管來解決安全（72%）和隱私（64%）問題。當被問及AI的挑戰時，41%的受訪者表示他們有過負面經歷；其中，隱私問題（48%）和安全風險（43%）是最常被提及的。
超過一半的受訪者還認為，政府監管應該在打擊虛假信息方面發揮作用。報告中提到：“為了確保AI的成功和安全采用，IT專業人士認識到，組織必須制定關于道德、數據隱私和合規性的全面政策，這指向了道德考慮和對工作被取代的擔憂，作為AI采用的其他重要障礙。”
SolarWinds報告還發現，超過三分之一的組織仍然缺乏指導適當genAI實施的道德、隱私和合規政策。SolarWinds的技術和工程高級副總裁Krishna Sai表示：“盡管AI的討論在行業中占據了主導地位，但IT領導者和團隊認識到，這項仍在發展中的技術存在巨大的風險，這些風險因急于快速而非智能地構建AI而加劇。”
事實上，領先的安全專家預測，黑客將越來越多地針對genAI系統，并嘗試通過破壞數據或模型本身來“投毒”。今年早些時候，美國國家標準技術研究院（NIST）發表了一篇論文，警告說“投毒攻擊非常強大，可以導致可用性違規或完整性違規。”
