根據(jù)一項(xiàng)最新調(diào)查，IT部門和財(cái)務(wù)部門領(lǐng)導(dǎo)者在估算和控制AI部署成本方面面臨挑戰(zhàn)，多數(shù)AI項(xiàng)目超出預(yù)算目標(biāo)。

盡管企業(yè)廣泛采用AI技術(shù)，但許多IT部門領(lǐng)導(dǎo)者發(fā)現(xiàn)難以實(shí)現(xiàn)AI項(xiàng)目的投資回報(bào)率，預(yù)算不準(zhǔn)確是問(wèn)題的關(guān)鍵所在。

SaaS基準(zhǔn)測(cè)試公司Benchmarkit和成本治理平臺(tái)Mavvrik近期的一項(xiàng)調(diào)查顯示，約85%的機(jī)構(gòu)對(duì)AI成本的估算誤差超過(guò)10%，近25%的機(jī)構(gòu)誤差達(dá)到50%或以上。成本估算幾乎總是偏低。

調(diào)查受訪者表示，數(shù)據(jù)平臺(tái)是導(dǎo)致AI成本意外增加的首要因素，其次是AI模型的網(wǎng)絡(luò)訪問(wèn)權(quán)限。大型語(yǔ)言模型令牌成本是導(dǎo)致AI意外支出的第五大因素。

CIO擔(dān)責(zé)

專家表示，雖然預(yù)算審批權(quán)通常掌握在首席財(cái)務(wù)官手中，但負(fù)責(zé)管理成本意外高昂的AI項(xiàng)目的CIO可能會(huì)面臨重大影響。

專注于AI的網(wǎng)頁(yè)開(kāi)發(fā)公司Greenice的聯(lián)合創(chuàng)始人Sergii Opanasenko表示：“對(duì)AI項(xiàng)目的預(yù)算低估如此嚴(yán)重，不僅會(huì)打亂預(yù)算計(jì)劃，還會(huì)損害利益相關(guān)者的信心和項(xiàng)目的采納度。最好的前進(jìn)道路是將AI視為其他任何核心基礎(chǔ)設(shè)施投資：合理規(guī)劃范圍，考慮集成和迭代，并為實(shí)驗(yàn)留出緩沖空間。”

Google Workspace專業(yè)服務(wù)公司Promevo的首席技術(shù)官John Pettit補(bǔ)充道，許多機(jī)構(gòu)在部署AI時(shí)似乎“盲目行事”。他表示，如果由CIO領(lǐng)導(dǎo)的AI項(xiàng)目預(yù)算大幅超支，會(huì)影響CIO的可信度。

“在領(lǐng)導(dǎo)項(xiàng)目和組織時(shí)，信任是你最重要的資本，”他表示，“如果你的AI項(xiàng)目成本比預(yù)測(cè)高出50%，首席財(cái)務(wù)官和董事會(huì)會(huì)在批準(zhǔn)下一個(gè)項(xiàng)目時(shí)猶豫不決。”

Pettit補(bǔ)充道，成本超支通常與AI模型成本之下的隱藏層有關(guān)，包括數(shù)據(jù)準(zhǔn)備、安全性、集成和合規(guī)性。

AI知識(shí)管理供應(yīng)商Bloomfire的首席營(yíng)銷官Dan Stradtman曾目睹過(guò)項(xiàng)目成本超支的影響。他表示：“我曾在財(cái)富500強(qiáng)公司領(lǐng)導(dǎo)團(tuán)隊(duì)，預(yù)算預(yù)測(cè)失誤會(huì)引發(fā)連鎖反應(yīng)：路線圖延遲、人員編制凍結(jié)、首席財(cái)務(wù)官撤回戰(zhàn)略投資。對(duì)于IT部門領(lǐng)導(dǎo)者來(lái)說(shuō)，治理并非可選。如果沒(méi)有對(duì)成本進(jìn)行嚴(yán)格的監(jiān)控，以及沒(méi)有為AI提供清晰的知識(shí)基礎(chǔ)，你將面臨不可預(yù)測(cè)的賬單和沮喪的高管。”

除了導(dǎo)致對(duì)IT部門領(lǐng)導(dǎo)層的不信任外，成本預(yù)測(cè)失誤還會(huì)損害公司的利潤(rùn)，應(yīng)付賬款軟件供應(yīng)商Billtrust的IT運(yùn)營(yíng)高級(jí)副總裁Farai Alleyne指出。“這不僅僅是IT支出問(wèn)題，還可能演變?yōu)檎w業(yè)務(wù)財(cái)務(wù)問(wèn)題。”他表示。

調(diào)查結(jié)果證實(shí)了這一擔(dān)憂。超過(guò)80%的公司報(bào)告稱，AI成本使毛利率下降超過(guò)6%，超過(guò)25%的公司毛利率下降了16%或以上。

預(yù)算微薄，期望不切實(shí)際

為了說(shuō)明AI預(yù)算的脫節(jié)，Greenice最近研究了自由職業(yè)者市場(chǎng)Upwork上發(fā)布的500多個(gè)自主式AI項(xiàng)目，發(fā)現(xiàn)其中超過(guò)60%的項(xiàng)目預(yù)算不到1000美元，預(yù)計(jì)交付時(shí)間不到三個(gè)月。Opanasenko表示，這些成本估算和時(shí)間表大多不切實(shí)際。

根據(jù)他的經(jīng)驗(yàn)，企業(yè)領(lǐng)導(dǎo)者往往認(rèn)為AI編碼助手或無(wú)代碼/低代碼工具可以完成推出新AI工具所需的大部分軟件開(kāi)發(fā)工作。他表示，這些工具可用于創(chuàng)建小型原型，但對(duì)于企業(yè)級(jí)集成或多智能體系統(tǒng)，復(fù)雜性會(huì)產(chǎn)生額外成本。

Opanasenko補(bǔ)充道：“我們經(jīng)常遇到客戶自豪地說(shuō)，他們用AI在一周內(nèi)構(gòu)建了80%到90%的系統(tǒng)，但剩下的10%到20%才是真正的復(fù)雜性所在。最后一英里往往需要更長(zhǎng)時(shí)間，要么是因?yàn)榧蓮?fù)雜，要么是因?yàn)殡S著項(xiàng)目規(guī)模擴(kuò)大和上下文變得過(guò)于龐大，AI助手難以應(yīng)對(duì)。”

此外，他表示，機(jī)構(gòu)經(jīng)常低估運(yùn)營(yíng)AI項(xiàng)目的成本。向量化和大語(yǔ)言模型調(diào)用的令牌使用每月可能花費(fèi)數(shù)萬(wàn)美元，但托管自己的模型也不便宜，本地基礎(chǔ)設(shè)施成本每月也可能高達(dá)數(shù)千美元。

此外，還有范圍蔓延的問(wèn)題。Opanasenko表示：“當(dāng)客戶在項(xiàng)目中途改變主意或增加需求時(shí)，唯一的出路是重新評(píng)估范圍，削減至預(yù)算允許的現(xiàn)實(shí)范圍，并將額外功能推遲到后續(xù)階段。”

控制成本的最佳實(shí)踐

Promevo的Pettit建議CIO采用可觀測(cè)性技術(shù)來(lái)跟蹤AI成本，并關(guān)注基于結(jié)果的ROI指標(biāo)。

“沒(méi)有可觀測(cè)性，你就是在猜測(cè)，”他表示，“有了它，你可以在培訓(xùn)任務(wù)失控或API使用量激增之前發(fā)現(xiàn)并阻止，避免預(yù)算超支。”

他建議CIO采用FinOps實(shí)踐，將AI成本作為主要指標(biāo)，并配備儀表板和警報(bào)。IT部門領(lǐng)導(dǎo)者還應(yīng)鼓勵(lì)跨團(tuán)隊(duì)透明度，讓市場(chǎng)、研發(fā)和IT團(tuán)隊(duì)共享他們的AI使用情況和成本。

Pettit建議，IT部門領(lǐng)導(dǎo)者還可以從AI試點(diǎn)項(xiàng)目入手，衡量實(shí)際消耗，并應(yīng)認(rèn)識(shí)到小型AI解決方案有時(shí)效果最佳。

“并非每個(gè)用例都需要最大的模型，”Pettit表示，“有時(shí)，更輕量級(jí)的方法能以10%的成本實(shí)現(xiàn)90%的價(jià)值。”

與Pettit一樣，Billtrust的Alleyne建議使用成本管理和可觀測(cè)性工具來(lái)控制AI支出。他表示，雖然云供應(yīng)商的成本管理工具很有用，但不如第三方解決方案深入，且無(wú)法覆蓋所有潛在的AI成本。

“這些其他第三方工具可以提出建議，比如，‘嘿，你實(shí)際上在這個(gè)功能上超支了，可以調(diào)整規(guī)模，’”他表示，“我們根據(jù)合同承諾的建議進(jìn)行了很多規(guī)模調(diào)整，并更改了備份方式，以更加注意整體云支出。”

Alleyne補(bǔ)充道，使用成本管理和可觀測(cè)性工具的關(guān)鍵是定期檢查。Billtrust的IT部門領(lǐng)導(dǎo)者每月至少檢查幾次AI成本管理軟件。

“你可以擁有這些工具，但不要讓它們成為擺設(shè)，”他表示，“要對(duì)成本管理計(jì)劃保持嚴(yán)謹(jǐn)。”

Alleyne還建議IT部門領(lǐng)導(dǎo)者定期與其他部門溝通他們的AI使用情況。

“許多失誤可以歸因于其他部門在使用AI時(shí)做了某些事情，最終這些成本體現(xiàn)在了你的賬單上，”他表示，“有些部門利用云上板的便利性使用相關(guān)功能，他們?cè)谀愕钠髽I(yè)云賬戶上運(yùn)行，而你卻收到了賬單。”