AI為何會一本正經(jīng)地胡說八道？

金鍂鑫??

AI杜撰歷史、編造法律條文、偽造參考文獻的現(xiàn)象已經(jīng)屢見不鮮。它闖的禍，早已不是簡單的“胡說八道”，而是正在成為信息危機的加速器。 上個月，全國首例AI幻覺侵權(quán)糾紛案正式宣判，標(biāo)志著AI幻覺已從技術(shù)問題，升級為法律和社會問題。當(dāng)我們的生活和工作越來越依賴大模型時，AI幻覺帶來的風(fēng)險，也正影響越來越多的人。 到底什么是AI幻覺？為什么AI總能理直氣壯地犯錯？我們又該如何避免被AI“欺騙”呢？ AI幻覺，其實是模型機制必然帶來的系統(tǒng)性風(fēng)險。 首先我們要揭示一個核心真相：AI娓娓道來的背后，本質(zhì)上是從海量文本里學(xué)習(xí)詞語、句子之間的統(tǒng)計關(guān)聯(lián)，再根據(jù)上下文預(yù)測下一個最有可能出現(xiàn)的詞。打個比方，小朋友認(rèn)識“蘋果”：是看見、摸到、嘗到、記住，形成真實世界的概念。而AI認(rèn)識“蘋果”只做一件事——統(tǒng)計詞語共現(xiàn)概率。它從海量文本里學(xué)到：“蘋果”常常和“紅”“甜”“脆”等詞語一起出現(xiàn)，于是它就能流暢說出：“紅蘋果口感甜脆?！彼皇嵌?，它只是說得像懂。 這樣問題就來了，當(dāng)問題過于冷門、專業(yè)或者涉及很多細節(jié)時，模型在訓(xùn)練語料里缺乏足夠案例，它就很難算出可靠的概率，就容易編造內(nèi)容，這就是幻覺的根源。 破解AI幻覺，行業(yè)主流方案是檢索增強生成。讓AI回答問題前先檢索權(quán)威資料，就好像把“閉卷考試”變成“開卷考試”，可大幅降低編造謊言的概率。 目前最前沿的技術(shù)，是讓AI自己“吵一吵”，吵出真相。清華大學(xué)等單位提出來多智能體辯論框架，相當(dāng)于讓三個AI共同討論問題，相互質(zhì)疑、交叉驗證，篩選出最可靠的結(jié)論。 對于普通使用者，有兩點要注意：一是要巧問，有針對性地問，給AI明確范圍、限制、要求，減少它自由發(fā)揮；二是要善查，關(guān)鍵信息必須核對，還可以多模型交叉驗證。 AI或許永遠無法做到100%沒有幻覺，但正是這種“不完美”提醒我們：真正的智能，從來不是“永不犯錯”，而是知錯能改、尊重事實。