編輯 ｜星璇

出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）

谷歌近日在谷歌搜索中首次推出了“AI Overview”，上線還不到兩周，就被爆料由于該 AI 功能中的查詢返回了毫無意義或不準(zhǔn)確的結(jié)果（并且沒有任何選擇退出的方式），公眾的批評(píng)日益增多。

AI Overview在 Google 搜索的最頂部顯示搜索問題答案的簡(jiǎn)要摘要。例如，如果用戶搜索清潔皮靴的最佳方法，結(jié)果頁面可能會(huì)在頂部顯示“AI Overview”，其中包含多步清潔過程，這些信息是從網(wǎng)絡(luò)上綜合收集的信息中收集的。

但近日，社交媒體用戶分享了大量截圖，顯示人工智能工具給出了不正確且有爭(zhēng)議的回答。

根據(jù)用戶分享的截圖，以下是 AI Overview 產(chǎn)生的一些錯(cuò)誤示例。

當(dāng)被問及美國(guó)有過多少位穆斯林總統(tǒng)時(shí)，AI Overview回答道：“美國(guó)有過一位穆斯林總統(tǒng)，即巴拉克·侯賽因·奧巴馬。”

圖片

當(dāng)用戶搜索“奶酪不粘在披薩上”時(shí)，該功能建議添加“約 1/8 杯無毒膠水到醬汁中”。社交媒體用戶找到了一條11 年前的 Reddit 評(píng)論，似乎是該評(píng)論的來源。

圖片

歸因?qū)τ?AI Overview 來說也可能是一個(gè)問題，尤其是在將不準(zhǔn)確的信息歸因于醫(yī)療專業(yè)人員或科學(xué)家時(shí)。

例如，當(dāng)被問及“為了獲得最佳健康，我應(yīng)該盯著太陽看多長(zhǎng)時(shí)間”時(shí)，該工具回答道，“根據(jù) WebMD 的說法，科學(xué)家表示，盯著太陽看 5-15 分鐘，或者如果你的皮膚較黑，則最多盯著 30 分鐘，一般來說是安全的，并且對(duì)健康最有益。”

當(dāng)被問及“我每天應(yīng)該吃多少塊石頭”時(shí)，該工具回答道：“根據(jù)加州大學(xué)伯克利分校地質(zhì)學(xué)家的說法，人們每天應(yīng)該至少吃一塊小石頭”，并列出了其維生素和消化益處。

圖片

該工具還可能無法準(zhǔn)確響應(yīng)簡(jiǎn)單的查詢，例如列出以“um”結(jié)尾的水果列表，或者說 1919 年是20 年前。

圖片

當(dāng)被問及谷歌搜索是否違反反壟斷法時(shí)，AI Overview表示，“是的，美國(guó)司法部和 11 個(gè)州正在起訴谷歌違反反壟斷法。”

圖片

1.谷歌發(fā)言人聲明

谷歌在年度 Google I/O 大會(huì)上推出 AI Overview 當(dāng)天，該公司表示還計(jì)劃在搜索中直接引入類似助手的規(guī)劃功能。該公司解釋說，用戶將能夠搜索諸如“為一個(gè)群體創(chuàng)建易于準(zhǔn)備的 3 天膳食計(jì)劃”之類的內(nèi)容，然后他們就會(huì)從網(wǎng)絡(luò)上的各種食譜中獲得一個(gè)起點(diǎn)。

谷歌發(fā)言人在一份聲明中告訴外媒 CNBC：“絕大多數(shù) AI Overview 都提供了高質(zhì)量的信息，并提供了深入挖掘網(wǎng)絡(luò)的鏈接。”

“我們看到的許多例子都是不常見的查詢，我們也看到了被篡改或我們無法重現(xiàn)的例子。”

該發(fā)言人表示，AI Overview 在推出之前經(jīng)過了廣泛的測(cè)試，并且公司正在“根據(jù)我們的內(nèi)容政策采取適當(dāng)?shù)难杆傩袆?dòng)”。

2.被屢屢吐槽的谷歌AI產(chǎn)品

此前，谷歌于 2 月份高調(diào)推出了 Gemini圖像生成工具，但因出現(xiàn)類似問題，于同月暫停了該工具的發(fā)布。

該工具允許用戶輸入提示來創(chuàng)建圖像，但幾乎立即，用戶就發(fā)現(xiàn)了歷史錯(cuò)誤和可疑的回應(yīng)，并在社交媒體上廣泛流傳。

例如，根據(jù)社交媒體平臺(tái) X 上的截圖，當(dāng)一名用戶要求 Gemini 展示一名 1943 年的德國(guó)士兵時(shí)，該工具會(huì)描繪出一群 種族各異的士兵， 他們身著當(dāng)時(shí)的德國(guó)軍裝。

截圖 顯示， 當(dāng)被要求提供“中世紀(jì)英國(guó)國(guó)王的歷史準(zhǔn)確描述”時(shí)，該模型生成了另一組種族多樣化的圖像，其中包括一張女性統(tǒng)治者的 圖像。當(dāng)用戶要求提供美國(guó)開國(guó)元?jiǎng)住?8 世紀(jì)法國(guó)國(guó)王、19 世紀(jì)德國(guó)夫婦等圖像時(shí)，他們報(bào)告了類似的結(jié)果 。用戶報(bào)告稱，在回答有關(guān)谷歌創(chuàng)始人的問題時(shí)，該模型顯示了一張亞洲男性的圖像。

谷歌當(dāng)時(shí)在一份聲明中表示，正在努力修復(fù) Gemini 的圖像生成問題，承認(rèn)該工具“沒有達(dá)到預(yù)期”。不久之后，該公司宣布將立即“暫停人物圖像生成”并“很快重新發(fā)布改進(jìn)版本”。

Gemini 圖像生成輸出的問題再次引發(fā)了人工智能行業(yè)的爭(zhēng)論，一些團(tuán)體稱 Gemini 太過“覺醒”或左傾，而另一些人則表示該公司沒有充分投資于正確的人工智能倫理形式。谷歌在 2020 年和 2021 年因 罷免其人工智能倫理小組的聯(lián)合負(fù)責(zé)人而受到抨擊 ，此前他們發(fā)表了一篇批評(píng)此類人工智能模型某些風(fēng)險(xiǎn)的研究論文，隨后重組了該小組的結(jié)構(gòu)。

2023 年，谷歌母公司 Alphabet 首席執(zhí)行官桑達(dá)爾·皮查伊 (Sundar Pichai) 因公司 在 ChatGPT 迅速傳播之后拙劣且“倉(cāng)促”地推出 Bard而受到部分員工的批評(píng)。

本文轉(zhuǎn)載自51CTO技術(shù)棧，作者：星璇