AI也開(kāi)始“帶貨”了！近日，不少消費(fèi)者反映，在向AI咨詢?nèi)粘Ｉ顔?wèn)題時(shí)，得到的答案中竟植入了商業(yè)推薦內(nèi)容。調(diào)查發(fā)現(xiàn)，向AI定向投喂數(shù)據(jù)以提高品牌曝光度，已形成灰色產(chǎn)業(yè)鏈。由于當(dāng)前AI對(duì)海量網(wǎng)絡(luò)信息難辨真?zhèn)?，一些市?chǎng)認(rèn)知度低、甚至完全虛構(gòu)的品牌，也能進(jìn)入AI的推薦列表，呈現(xiàn)在用戶面前。

當(dāng)本應(yīng)“智能篩選、客觀推薦”的AI機(jī)制異化為“定向投喂、精準(zhǔn)收割”的營(yíng)銷工具，多方面的危害不容忽視。品牌方將“AI推薦位”作為競(jìng)購(gòu)的廣告位，實(shí)際上是將商業(yè)戰(zhàn)的戰(zhàn)場(chǎng)推到了數(shù)據(jù)源頭。然而，如果任由灰色產(chǎn)業(yè)野蠻生長(zhǎng)，那么品牌方將陷入惡性競(jìng)爭(zhēng)，造成AI數(shù)據(jù)輸入失控。計(jì)算機(jī)領(lǐng)域流傳著一句諺語(yǔ)：垃圾進(jìn)，垃圾出。當(dāng)輸入的數(shù)據(jù)受到污染，輸出的必然是錯(cuò)誤或劣質(zhì)的結(jié)果，最終導(dǎo)致消費(fèi)者“踩坑”。

更需警惕的是，技術(shù)倫理的失守早有先例。在搜索引擎時(shí)代，就曾有企業(yè)在搜索結(jié)果、推薦信息的排序上“一切向錢(qián)看”，縱容金融、健康等關(guān)鍵領(lǐng)域的商業(yè)信息操縱，釀成財(cái)產(chǎn)損失乃至生命悲劇。進(jìn)入AI紀(jì)元，算法的“價(jià)值觀”由訓(xùn)練它的企業(yè)所賦予。技術(shù)公司在逐利與公益之間的取舍，將決定AI是成為便利生活的工具，還是收割認(rèn)知的利器。如果放任黑灰產(chǎn)組織借AI之力布設(shè)詐騙陷阱，個(gè)體的認(rèn)知安全風(fēng)險(xiǎn)便會(huì)升級(jí)為社會(huì)公共安全威脅。

從這個(gè)意義上講，要整治“AI帶貨”亂象，就必須追溯到數(shù)據(jù)上游、深入到算法內(nèi)核，推動(dòng)多方共治，不僅斬?cái)嗄缓罂v的黑手，更要凈化AI的“認(rèn)知”養(yǎng)成環(huán)境，錨定算法的價(jià)值原點(diǎn)。

政府部門(mén)需前瞻立法。在傳統(tǒng)互聯(lián)網(wǎng)廣告監(jiān)管已顯滯后的背景下，必須建立起適配的法律框架。對(duì)于數(shù)據(jù)投喂存在的不正當(dāng)競(jìng)爭(zhēng)風(fēng)險(xiǎn)，以及植入廣告存在的品牌虛假、產(chǎn)品偽劣風(fēng)險(xiǎn)，立法者需要在廣告法、反不正當(dāng)競(jìng)爭(zhēng)法等法律基礎(chǔ)上，進(jìn)一步明確AI生成商業(yè)內(nèi)容的責(zé)任歸屬；執(zhí)法者則要加強(qiáng)識(shí)別能力，嚴(yán)查植入廣告中的假冒偽劣與坑蒙拐騙，懲處違法違規(guī)的營(yíng)銷企業(yè)，切斷黑灰產(chǎn)業(yè)的利益鏈。

技術(shù)企業(yè)需壓實(shí)責(zé)任。AI服務(wù)提供商應(yīng)打開(kāi)“技術(shù)黑箱”。在數(shù)據(jù)治理上，應(yīng)建立貫穿輸入、處理、輸出的全流程標(biāo)識(shí)與追溯體系，同時(shí)強(qiáng)化對(duì)訓(xùn)練數(shù)據(jù)的質(zhì)量篩查與來(lái)源審核，避免無(wú)效信息、涉險(xiǎn)信息的無(wú)節(jié)制輸入；在算法設(shè)計(jì)上，應(yīng)遵循“用戶利益最大化”“社會(huì)效益優(yōu)先”的原則，通過(guò)持續(xù)優(yōu)化模型結(jié)構(gòu)與權(quán)重配置，使推薦機(jī)制不僅匹配用戶需求，更彰顯社會(huì)責(zé)任。

用戶也需完善認(rèn)知。當(dāng)前，AI在生成結(jié)果時(shí)仍難以避免“幻覺(jué)”與“偏見(jiàn)”。因此，用戶需培育個(gè)人的“AI素養(yǎng)”，在提高解決問(wèn)題效率的同時(shí)，不輕信、不盲從AI生成的結(jié)果，對(duì)AI推薦的商業(yè)內(nèi)容更要保持天然警惕。此外，用戶要學(xué)會(huì)用多角度提問(wèn)、交叉驗(yàn)證等方式，過(guò)濾錯(cuò)誤結(jié)果，提高答案可信度。

說(shuō)到底，AI推薦的宗旨是服務(wù)于人。整治“AI帶貨”亂象，不是要捆住AI發(fā)展的手腳，而是樹(shù)牢底線思維，劃定行為邊界，讓“以人為本、技術(shù)向善”的理念嵌入AI、照亮生活。

來(lái)源：新重慶