CIO們?cè)诩庇诓捎肁I技術(shù)時(shí)，遇到了一個(gè)意想不到的障礙：隱性成本，這些成本可能會(huì)阻礙企業(yè)創(chuàng)新和業(yè)務(wù)轉(zhuǎn)型。

提供AI驅(qū)動(dòng)的行政助理服務(wù)的公司Fyxer AI的CIO Andy Wallace表示：“AI支出不像傳統(tǒng)信息技術(shù)預(yù)算那樣穩(wěn)定，它每小時(shí)都在波動(dòng)，CIO們需要借助實(shí)時(shí)儀表盤來(lái)實(shí)時(shí)監(jiān)控代幣使用情況、API調(diào)用次數(shù)和基礎(chǔ)設(shè)施成本。”

網(wǎng)絡(luò)安全恢復(fù)公司Commvault的CIO Ha Hoang表示，揭示隱性成本的第一步是提高透明度，不僅要了解支出情況，還要了解使用情況和價(jià)值。她指出，AI的隱性成本往往隱藏在數(shù)據(jù)分散、影子項(xiàng)目和未跟蹤的模型使用中。“CIO們需要具備超越基礎(chǔ)設(shè)施的洞察能力，包括數(shù)據(jù)的訪問(wèn)、復(fù)制和管理方式。”Hoang認(rèn)為，CIO們對(duì)數(shù)據(jù)保護(hù)和恢復(fù)所采用的規(guī)范，同樣應(yīng)適用于AI領(lǐng)域。“這將包括對(duì)每個(gè)數(shù)據(jù)集和模型進(jìn)行清晰的譜系追蹤、生命周期管理和責(zé)任歸屬。”

成本損耗

Hoang指出，數(shù)據(jù)重復(fù)和治理債務(wù)是主要的成本損耗因素。她表示：“隨著AI實(shí)驗(yàn)的加速，數(shù)據(jù)副本在云環(huán)境、沙箱和模型中大量涌現(xiàn)。”她警告稱，這些不必要的開(kāi)支不僅會(huì)推高存儲(chǔ)和計(jì)算成本，還會(huì)增加合規(guī)和安全風(fēng)險(xiǎn)。“如果底層數(shù)據(jù)管理不善，今天看似每次推理僅需幾美分的成本，日后可能會(huì)演變成重大的技術(shù)和運(yùn)營(yíng)債務(wù)。”

Wallace認(rèn)為，最大的隱性成本是效率低下。“對(duì)我們Fyxer公司來(lái)說(shuō)，這可能意味著提示詞優(yōu)化不佳、模型漂移未受監(jiān)控或不必要的計(jì)算周期。”然而，他指出，同樣的效率陷阱也適用于采用其公司軟件的企業(yè)CIO們。Wallace表示，控制效率低下的明智方法是讓企業(yè)CFO參與進(jìn)來(lái)。“財(cái)務(wù)部門需要像工程部門一樣了解這一挑戰(zhàn)，因?yàn)榭缏毮艿牧鲿硿贤ㄊ潜苊赓~單到來(lái)時(shí)出現(xiàn)意外情況的關(guān)鍵。”

追求簡(jiǎn)約

Hoang表示，重要的是將AI視為數(shù)據(jù)生態(tài)系統(tǒng)的一部分，而非例外。“從數(shù)據(jù)準(zhǔn)備到模型部署，從一開(kāi)始就將成本透明度和治理納入AI生命周期。”她建議道。

同時(shí)，自動(dòng)化數(shù)據(jù)分類、保留和保護(hù)策略也有助于防止成本激增。Hoang還建議，企業(yè)應(yīng)像測(cè)試核心應(yīng)用一樣測(cè)試AI的恢復(fù)能力和韌性。“這確保了企業(yè)能夠長(zhǎng)期維持其AI投資。”她表示。

Wallace建議，將AI視為一個(gè)動(dòng)態(tài)的金融系統(tǒng)，而非固定的技術(shù)投資，這意味著要使用信息技術(shù)和財(cái)務(wù)部門的聯(lián)合儀表盤，設(shè)定明確的支出閾值，并在使用模式發(fā)生變化時(shí)自動(dòng)發(fā)出警報(bào)。“當(dāng)財(cái)務(wù)和工程團(tuán)隊(duì)共享透明度時(shí)，你就能將過(guò)去每月一次的震驚轉(zhuǎn)化為一個(gè)可管理、可預(yù)測(cè)的過(guò)程。”他表示。

Wallace還表示，CIO們還需要與首席財(cái)務(wù)官和財(cái)務(wù)團(tuán)隊(duì)緊密合作，并排比較各項(xiàng)指標(biāo)，因?yàn)樨?cái)務(wù)監(jiān)督必須與工程進(jìn)度保持同步。“等待月末對(duì)賬的日子已經(jīng)一去不復(fù)返了，如果你不是每30分鐘監(jiān)控一次使用情況，你就已經(jīng)落后了。”

Google的初創(chuàng)企業(yè)現(xiàn)場(chǎng)首席技術(shù)官David White建議，盡可能追求效率。“你是否僅僅因?yàn)檎J(rèn)為最新技術(shù)就是最好的，就使用它?”他問(wèn)道。“你是否使用了最具成本效益的加速器，或者你是否可以使用價(jià)格更低的GPU?”

隱性成本

White認(rèn)為，CIO們需要意識(shí)到隱性開(kāi)支，比如那些默默無(wú)聞的團(tuán)隊(duì)成員為保持一切正常運(yùn)行、集成和優(yōu)化所付出的成本。他指出，這包括用于調(diào)整模型的數(shù)據(jù)準(zhǔn)備工作，即使你不是在構(gòu)建自己的模型。“所有幕后人物讓一切看起來(lái)都很美好的背后都有成本——他們不是免費(fèi)的。”White表示。

另一個(gè)重大錯(cuò)誤是假設(shè)AI的表現(xiàn)與SaaS部署相同——實(shí)際上并非如此。“你不是在購(gòu)買靜態(tài)許可證——你是在為持續(xù)的計(jì)算付費(fèi)，這種計(jì)算會(huì)隨著團(tuán)隊(duì)的使用方式而擴(kuò)展。”

Wallace警告稱，成本每天、甚至每小時(shí)都在波動(dòng)，具體取決于使用情況。“試圖在不與首席財(cái)務(wù)官溝通的情況下管理這種波動(dòng)性，是導(dǎo)致預(yù)算失控的原因。”他表示。“財(cái)務(wù)部門需要實(shí)時(shí)了解AI運(yùn)營(yíng)情況，而不是每月總結(jié)。”

最后一點(diǎn)思考

Hoang表示，一個(gè)企業(yè)的AI的可持續(xù)性將取決于其數(shù)據(jù)基礎(chǔ)的穩(wěn)固程度。“投資于可信、受治理且可恢復(fù)的數(shù)據(jù)的CIO們將更高效地解鎖AI價(jià)值，并避免因速度失控而產(chǎn)生的隱性成本。”