隨著AI越來(lái)越融入各行各業(yè)，AI讓我們的生活豐富多彩、更加簡(jiǎn)捷和效率，我們也已經(jīng)接受了AI的陪伴。不過(guò)，AI給的答案是不是正確的和公正的？

近期一些案例顯示AI確實(shí)有時(shí)候會(huì)一本正經(jīng)地“胡說(shuō)八道”，尤其是當(dāng)AI涉及推薦商品這類(lèi)商業(yè)行為時(shí)，人們就開(kāi)始對(duì)它的推薦產(chǎn)生質(zhì)疑。

一本正經(jīng)地“胡說(shuō)八道”？

AI推薦引發(fā)質(zhì)疑

近期，一名律師在為一場(chǎng)因代持股引發(fā)的民事糾紛案件辯護(hù)時(shí)，向AI詢問(wèn)可有相關(guān)案例借鑒，AI給出了最高人民法院與上海一中院的兩個(gè)參考案例。這名律師對(duì)這兩個(gè)案例深信不疑，便將案例提交給法院，作為辯護(hù)依據(jù)。

北京市通州區(qū)人民法院法官 鄭吉喆：我看到感覺(jué)是這個(gè)案子是AI生成的，這個(gè)格式像AI生成的，左邊都帶一個(gè)實(shí)心點(diǎn)，包括當(dāng)事人的這種模糊性。

出于職業(yè)敏感，法官對(duì)這兩起案件進(jìn)行查詢，發(fā)現(xiàn)兩起案件雖然存在，但真實(shí)的裁判文書(shū)與律師提交的內(nèi)容完全不同。

在黑龍江哈爾濱，張女士近期想購(gòu)買(mǎi)一個(gè)電動(dòng)牙刷，面對(duì)網(wǎng)絡(luò)上的眾多品牌和型號(hào)，無(wú)從分辨的張女士，向AI詢問(wèn)哪款電動(dòng)牙刷好，并購(gòu)買(mǎi)了AI推薦的品牌和型號(hào)，但是購(gòu)買(mǎi)后，她發(fā)現(xiàn)AI推薦的并非性價(jià)比最高的。

張女士：同類(lèi)產(chǎn)品AI推薦的，我發(fā)現(xiàn)并不是最優(yōu)惠的，我發(fā)現(xiàn)了其他一些功能、價(jià)格都差不多的產(chǎn)品。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：學(xué)校里面學(xué)生在學(xué)習(xí)過(guò)程當(dāng)中使用AI工具還是比較普遍，但是學(xué)生提交的作業(yè)或論文當(dāng)中，會(huì)發(fā)現(xiàn)其中一些使用AI產(chǎn)生了不準(zhǔn)確甚至虛構(gòu)的結(jié)果，甚至法學(xué)案例也會(huì)出現(xiàn)有AI虛構(gòu)。另外AI去提供一些參考文獻(xiàn)的時(shí)候，也會(huì)存在虛構(gòu)的情況。

“花錢(qián)讓AI推薦產(chǎn)品”

已成產(chǎn)業(yè)化

像張女士那樣，現(xiàn)在很多消費(fèi)者在挑選商品時(shí)會(huì)讓AI幫忙分析和推薦。不過(guò)您知道嗎？在推薦產(chǎn)品的過(guò)程中，可能會(huì)有人刻意誤導(dǎo)AI，讓其把“某些特定的產(chǎn)品”作為答案推薦給您。

記者調(diào)查發(fā)現(xiàn)，目前就有一些人專(zhuān)門(mén)在網(wǎng)絡(luò)上做“幫商家把產(chǎn)品推薦給AI”的業(yè)務(wù)。

在社交平臺(tái)有眾多介紹和推廣生成式引擎優(yōu)化的帖子，打出的推廣語(yǔ)也具有吸引力。比如“別讓AI看不到你的品牌”。那怎么讓AI幫商家打廣告呢？記者聯(lián)系了其中一個(gè)發(fā)布者，他聲稱(chēng)通過(guò)自己的操作可以讓AI推薦商家品牌或者商品。

生成式引擎推廣者：就是讓你的內(nèi)容，你的品牌、商品被AI當(dāng)成標(biāo)準(zhǔn)答案推薦給大家，比如要是有人問(wèn)香薰產(chǎn)品哪個(gè)好、性價(jià)比更高，我們幫你推廣后，AI的答案就顯示你家產(chǎn)品性價(jià)比更高。

記者：具體怎么做才能達(dá)到你們說(shuō)的這個(gè)效果呢？

生成式引擎推廣者：我們會(huì)撰寫(xiě)大量的產(chǎn)品的文章，投放到AI常去抓取內(nèi)容的平臺(tái)，讓AI在搜索香薰內(nèi)容時(shí)能抓取到我們投放的信息。

記者：如果想要達(dá)到這樣的效果需要多少費(fèi)用呢？

生成式引擎推廣者：這個(gè)需要時(shí)間，我們代理一年的費(fèi)用在4000元到20000元不等，投入越多效果越好。

AI擅長(zhǎng)處理邏輯

但無(wú)法感知數(shù)據(jù)背后的虛假

根據(jù)相關(guān)推廣人員的說(shuō)法，通過(guò)廣泛發(fā)布文章可以實(shí)現(xiàn)誤導(dǎo)AI給出指定內(nèi)容的答案。在現(xiàn)實(shí)中這種做法行得通嗎？

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)數(shù)據(jù)安全與治理工作委員會(huì)專(zhuān)家 周杰：AI會(huì)在自己已有的比較豐富的內(nèi)容里面去檢索，如果有，它就會(huì)告訴你答案，如果沒(méi)有，它就會(huì)從互聯(lián)網(wǎng)上面去查找。當(dāng)我們想去“污染”過(guò)程，當(dāng)我手上有很多關(guān)于某個(gè)商品的內(nèi)容之后，我們就可以想辦法通過(guò)一些賬號(hào)把它傳到互聯(lián)網(wǎng)上去。此后當(dāng)我們?nèi)?wèn)AI一個(gè)問(wèn)題的時(shí)候，AI它就會(huì)去我們剛剛所講的這些信息庫(kù)里面去查詢內(nèi)容。如果查得到了，它就會(huì)告訴你我們發(fā)布上去的那些答案。

如今的AI算力越來(lái)越強(qiáng)，邏輯思維也更縝密。那么AI能不能分辨哪些信息是真實(shí)的，哪些是帶有廣告性質(zhì)的推廣呢？

中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專(zhuān)委會(huì)執(zhí)行委員 潘季明：AI當(dāng)前確實(shí)無(wú)法分辨出哪些是客觀事實(shí)，哪些是廣告內(nèi)容，目前來(lái)看，這在技術(shù)上其實(shí)是一個(gè)極大的挑戰(zhàn)，現(xiàn)在的生成式引擎優(yōu)化技術(shù)主要是進(jìn)行偽裝，比如一些軟文不再是簡(jiǎn)單的“買(mǎi)一送一”的口號(hào)，而是偽裝成極其專(zhuān)業(yè)的測(cè)評(píng)、行業(yè)報(bào)告，或者是相關(guān)的科普文章。AI雖然擅長(zhǎng)處理邏輯，但無(wú)法感知數(shù)據(jù)背后的虛假。

現(xiàn)場(chǎng)測(cè)試——虛構(gòu)文章影響AI判斷

為了驗(yàn)證專(zhuān)家的觀點(diǎn)，記者請(qǐng)技術(shù)人員做了一個(gè)實(shí)驗(yàn)，虛構(gòu)了一個(gè)手機(jī)品牌，并在本地私有化部署的封閉網(wǎng)絡(luò)空間內(nèi)散布了這些信息。AI能否抓取到這些“虛假信息”，并把它們當(dāng)作標(biāo)準(zhǔn)答案推薦出來(lái)？

記者虛構(gòu)了海獺手機(jī)的品牌，第一步，首先制作內(nèi)容不同的關(guān)于海獺手機(jī)大量正面好評(píng)的文章。

網(wǎng)絡(luò)安全工程師 甄聰：比如說(shuō)我想讓這個(gè)工具幫我生成海獺手機(jī)的相關(guān)文章，我只需要在品牌這兒輸入它的手機(jī)名稱(chēng)，然后“投毒”數(shù)量設(shè)置的是100條，實(shí)際上可以設(shè)置成千上萬(wàn)條的。這時(shí)候軟件在后臺(tái)自動(dòng)生成相關(guān)文章，這些文案全都是正向評(píng)價(jià)的。

網(wǎng)絡(luò)安全工程師 甄聰：這個(gè)是我們私有化部署的AI產(chǎn)品，它的數(shù)據(jù)現(xiàn)在已經(jīng)被“污染”了?，F(xiàn)在我用它來(lái)搜索一下海獺的手機(jī)怎么樣，看它會(huì)給我們什么回復(fù)。正?；卮鹗菦](méi)有的，因?yàn)楹＋H手機(jī)是不存在的，被“污染”后的結(jié)果是海獺手機(jī)是一款近期市場(chǎng)率很高的機(jī)型等等，事實(shí)上這就是AI被“污染”后給出的輸出。

AI推薦產(chǎn)品均指向

自家平臺(tái)或合作平臺(tái)

為了實(shí)際驗(yàn)證AI推薦的產(chǎn)品是否靠譜，記者實(shí)際向不同的AI平臺(tái)進(jìn)行了同樣的提問(wèn)。

記者請(qǐng)三個(gè)AI工具推薦一款電動(dòng)牙刷，有趣的是這幾個(gè)AI都推薦了“自家平臺(tái)”或是“合作平臺(tái)”的商品。

記者分別向豆包、元寶和千問(wèn)三個(gè)AI工具詢問(wèn)了相同的問(wèn)題，請(qǐng)它們推薦一款電動(dòng)牙刷，且附帶鏈接。 三款A(yù)I工具給出了商品都是不同的，且商品所在的平臺(tái)都是單一的平臺(tái)。

字節(jié)跳動(dòng)旗下的豆包推薦的均為抖音商場(chǎng)內(nèi)的產(chǎn)品，阿里旗下的千問(wèn)推薦的均為淘寶平臺(tái)的產(chǎn)品，騰訊旗下的元寶推薦的均是京東商城的產(chǎn)品。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：AI工具它去推薦一些商品，去推薦一些電商平臺(tái)上的鏈接，的確會(huì)出現(xiàn)傾向于推薦自己平臺(tái)上的鏈接，背后當(dāng)然有它的商業(yè)的考量，比如它傾向于把用戶更好地留在自己平臺(tái)里面去進(jìn)行消費(fèi)，把流量留在自己數(shù)字平臺(tái)的生態(tài)當(dāng)中。實(shí)際上AI不一定提供最適合你的那款商品，它背后其實(shí)可能會(huì)有相應(yīng)的商業(yè)考量以及其他復(fù)雜的一些綜合因素的考量。

專(zhuān)家提示：AI輸出應(yīng)規(guī)范

答案來(lái)源要多問(wèn)

針對(duì)AI推薦商品存在的問(wèn)題，專(zhuān)家建議：AI工具廠商應(yīng)該附帶“相關(guān)生成答案”的來(lái)源，消費(fèi)者在使用AI選擇商品時(shí)也要多留一個(gè)心眼。

中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專(zhuān)委會(huì)執(zhí)行委員 潘季明：從技術(shù)方面來(lái)說(shuō)，大模型廠商須強(qiáng)化“引用溯源”標(biāo)識(shí)，強(qiáng)制要求AI在每一條推薦后附上鏈接，讓用戶有據(jù)可查；從監(jiān)管層面來(lái)說(shuō)，要落實(shí)內(nèi)容平臺(tái)的責(zé)任，實(shí)施“數(shù)據(jù)污染”治理，同時(shí)制定合理的GEO（生成式引擎優(yōu)化）行業(yè)規(guī)范。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)數(shù)據(jù)安全與治理工作委員會(huì)專(zhuān)家 周杰：當(dāng)我們得到一個(gè)答案的時(shí)候，我們可以再反問(wèn)一句，檢索的信息來(lái)源是哪里，如果我們看到里面有很多自媒體的一些數(shù)據(jù)，我們就要對(duì)這個(gè)答案進(jìn)行保留。

（總臺(tái)央視記者 崔世杰）