不久前亞馬遜推出AI工具“亞馬遜Q”，它的競爭對手是微軟Copilot。業(yè)界本來以為亞馬遜來勢洶洶，Q應(yīng)該很不錯，但最新報告顯示，這款A(yù)I工具并不成熟，可能還沒有準(zhǔn)備好。

Q到底有什么問題呢？The Platformer在報道中說，Q不夠精準(zhǔn)，侵犯隱私，存在“幻覺”（相當(dāng)于出錯），泄露數(shù)據(jù)。研究報告顯示，亞馬遜的大語言模型連接企業(yè)數(shù)據(jù)庫時極其不精準(zhǔn)，也不夠透明。

亞馬遜新聞發(fā)言人回應(yīng)稱，Q并沒有泄露過任何機密文件。該新聞發(fā)言人稱：“一些亞馬遜員工會通過內(nèi)部渠道和系統(tǒng)分享信息，這在亞馬遜是標(biāo)準(zhǔn)操作。沒有證據(jù)顯示有什么安全問題是反饋的問題造成的。我們已經(jīng)收集到所有的反饋意見，會繼續(xù)調(diào)校Q，它正在從預(yù)覽版產(chǎn)品變成公用產(chǎn)品。”

按照亞馬遜自己的說法，Q已經(jīng)是無數(shù)人的工作伙伴，但報告卻認(rèn)為Q還沒有為企業(yè)使用做好準(zhǔn)備。

EIIRTrend & Pareekh咨詢公司CEO Pareekh Jain說：“如果出現(xiàn)‘幻覺’，在企業(yè)決策時就無法使用Q。如果只是個人使用或者獲取信息，用Q沒有什么問題，但在決策時不能用。”

亞馬遜Q需要更多測試

在亞馬遜生成式AI正式商用之前，可能還需要進(jìn)行更多的測試。

Pareekh Jain說：“我覺得亞馬遜應(yīng)該先用內(nèi)部員工多做些測試。很明顯，亞馬遜正在做。沒有外部信息源提及當(dāng)中的問題。有兩樣?xùn)|西很重要，一是數(shù)據(jù)，二是算法。亞馬遜應(yīng)該看看到底是數(shù)據(jù)問題還是算法問題。”

亞馬遜AWS已經(jīng)積累了17年的數(shù)據(jù)。Q的定位很高，它的目標(biāo)是成為企業(yè)“萬能工具”。從產(chǎn)業(yè)發(fā)展趨勢看，Q很重要，可能會影響亞馬遜的前途。

IDC高管Sharath Srinivasamurthy認(rèn)為，對于消費者和企業(yè)用戶來說，“幻覺”并不會削弱AI的潛力，但進(jìn)行更好的訓(xùn)練仍然是至關(guān)重要的。

Sharath Srinivasamurthy說：“用更高質(zhì)量的數(shù)據(jù)、更好的提示（用更精準(zhǔn)的提示引導(dǎo)用戶，這些提示是模型容易理解的）訓(xùn)練模型，用組織或者行業(yè)專用數(shù)據(jù)持續(xù)優(yōu)化模型，出現(xiàn)可疑精況時增加人工檢查，亞馬遜可以從這些措施下手，讓新技術(shù)得到更好的應(yīng)用。”

AI“幻覺”應(yīng)該監(jiān)管嗎？

AI出現(xiàn)“幻覺”，是不是應(yīng)該加強監(jiān)管？Greyhound Research公司CEO Sanchit Vir Gogia認(rèn)為，監(jiān)管可能適得其反。

Sanchit Vir Gogia說：“任何監(jiān)管都有可能妨礙數(shù)據(jù)的交換和使用。就眼下來說，監(jiān)管越少，行業(yè)會發(fā)展越好。監(jiān)管少了，數(shù)據(jù)使用會更容易，更流暢。看看OpenAI的GPT，如果限定它應(yīng)該抓取什么數(shù)據(jù)，不應(yīng)該抓取什么數(shù)據(jù)，它可能不會騰飛。”

Sanchit Vir Gogia還認(rèn)為，設(shè)定外部邊界可能不太可行，讓企業(yè)自己來設(shè)定邊界可能更好。他解釋說：“監(jiān)管可能會有，但主要還是要讓企業(yè)自我監(jiān)管。雖然監(jiān)管和指導(dǎo)是必要的，但如何審計卻是麻煩所在。重點應(yīng)該是打造負(fù)責(zé)任的AI，也就是說創(chuàng)造者可以向客戶解釋內(nèi)在邏輯，它不能是一套黑盒系統(tǒng)。”

“新人”亞馬遜的AI之路還很長

分析師們認(rèn)為亞馬遜應(yīng)該加強內(nèi)部測試，加強自我監(jiān)管，從而打造更好的AI，這些看法當(dāng)然沒錯，但將AI部署到企業(yè)是很復(fù)雜的，這點更加值得關(guān)注。亞馬遜需要解決這些挑戰(zhàn)，在AI領(lǐng)域它是新人，前方的路還很漫長。

Jain說：“在這一領(lǐng)域AWS實際上慢了一拍，領(lǐng)導(dǎo)者是微軟和谷歌。用戶有很高的預(yù)期，在聊天機器人及其它相關(guān)技術(shù)方面更是如此。”

亞馬遜AI出現(xiàn)“幻覺”并不稀奇，ChatGPT同樣存在許多問題，比如分不清真與假，有時會發(fā)表傷害人的言論，傳播虛假信息。可是亞馬遜剛剛?cè)腴T，工作做得不好，這對它的AI業(yè)務(wù)會造成很大打擊。

面對質(zhì)疑，亞馬遜新聞發(fā)言人盡力淡化問題。上周亞馬遜AWS主管Adam Selipsky接受采訪，當(dāng)時記者曾說，蘋果、Verizon、Northrop Grumman年初時發(fā)布政策，禁止員工使用ChatGPT，主要是因為存在隱私、泄密擔(dān)心，記者問他對此有何看法，Adam Selipsky回答道：“比起消費聊天機器人，亞馬遜Q更安全、更重視隱私。”

但現(xiàn)在的報告證實，Adam Selipsky的說法經(jīng)不起考驗。（小刀）