AI要用，不可全信！

昨天我就差點(diǎn)被DeepSeek騙了。

我讓它幫找?guī)讉€(gè)營(yíng)銷案例。結(jié)果我在核對(duì)案例和數(shù)據(jù)時(shí)，發(fā)現(xiàn)網(wǎng)上根本找不到，很多都不存在。

于是我問它，這些案例都是真實(shí)的嗎？

結(jié)果，DeepSeek坦承，有些是真實(shí)的，有些完全是它推理演繹，杜撰編造的。

嚇我一跳。這些都是專業(yè)文章，需要真實(shí)案例和數(shù)據(jù)來支撐觀點(diǎn)。

如果案例是假的，這不是騙人嗎。

想想挺可怕。然后，我就跟它要求，必須全部用真實(shí)案例，至少網(wǎng)上能夠有出處查詢，每個(gè)案例和數(shù)據(jù)要標(biāo)記出處和鏈接。

最后，他照做了。不過我還是要再去核驗(yàn)一遍。

deepseek的這種欺騙行為叫做AI幻覺。它指的是大語言模型（LLM）在缺乏真實(shí)依據(jù)的情況下生成不準(zhǔn)確、誤導(dǎo)性甚至完全虛構(gòu)的內(nèi)容。其幻覺現(xiàn)象源于模型架構(gòu)的局限性以及基于概率的生成方式的限制。目前無法被完全消除，只能靠我們規(guī)避。

也能理解，這種行為發(fā)生，就像一個(gè)不靠譜的人，自行腦補(bǔ)、胡編亂造給的信息。

去年，美國(guó)就有個(gè)律師，引用chatgpt提供的一條文獻(xiàn)，結(jié)果有誤，導(dǎo)致官司失敗，賠償一大筆損失。

隨著AI普及，尤其在商業(yè)領(lǐng)域，企業(yè)經(jīng)營(yíng)，或者學(xué)術(shù)研究，健康醫(yī)療，AI幻覺問題出現(xiàn)，不被識(shí)別，就容易引發(fā)大麻煩大損失。

作為普通人，在使用 AI 獲取信息和建議時(shí)，如何有效避免 AI 幻覺。除了自身經(jīng)驗(yàn)和警覺。

我整理了10條實(shí)操建議，分享給你，趕緊收藏！

1. 多維度追問細(xì)節(jié)：對(duì)于 AI 給出的回答，不要僅滿足于籠統(tǒng)結(jié)論，追問具體細(xì)節(jié)。比如詢問 如何在一個(gè)月內(nèi)備考公務(wù)員，若 AI 回答 要制定學(xué)習(xí)計(jì)劃并多做練習(xí)題，你可繼續(xù)追問 具體每天的學(xué)習(xí)時(shí)間怎么安排針對(duì)不同科目有哪些典型練習(xí)題 。通過不斷深挖細(xì)節(jié)，讓 AI 的回答更具可信度和實(shí)操性，也能借此判斷回答是否存在幻覺。若 AI 在細(xì)節(jié)上含糊其辭、前后矛盾，很可能存在幻覺。

2. 交叉驗(yàn)證信息：不要完全依賴單一 AI 的回答，使用多個(gè)不同的 AI 工具對(duì)同一問題進(jìn)行提問，對(duì)比答案。比如向 ChatGPT 詢問 歷史上著名的醫(yī)學(xué)家及其主要貢獻(xiàn) 后，再向文心一言提出同樣問題，查看二者答案的異同。如果不同 AI 給出的核心內(nèi)容一致，那信息的可靠性較高；若答案差異較大，就需要進(jìn)一步查閱權(quán)威資料來核實(shí)。

3. 要求提供信息來源：當(dāng) AI 提供信息時(shí)，要求其說明信息出處。比如你問 最新的人工智能技術(shù)發(fā)展趨勢(shì)有哪些，若 AI 回答了幾個(gè)趨勢(shì)，你可追問 這些趨勢(shì)是基于哪些研究報(bào)告或者學(xué)術(shù)論文得出的。正規(guī)的信息來源能在一定程度上保證內(nèi)容的真實(shí)性，若 AI 無法提供可靠來源，那其回答的可信度就要打個(gè)問號(hào)。

4. 結(jié)合常識(shí)判斷：利用自身已有的知識(shí)和生活常識(shí)去衡量 AI 的回答。比如詢問 如何自制健康的減肥餐，若 AI 給出的食譜中包含大量高熱量、高脂肪食材，與減肥常識(shí)相悖，那顯然這個(gè)回答不可靠。在接受 AI 建議前，先依據(jù)常識(shí)進(jìn)行初步判斷，能有效規(guī)避因 AI 幻覺導(dǎo)致的錯(cuò)誤信息。

5. 限定回答范圍和條件：在提問時(shí)，明確給出具體范圍和條件，讓 AI 的回答更聚焦準(zhǔn)確。比如問 2024 年中國(guó)新能源汽車銷量排名前十的品牌有哪些，而不是簡(jiǎn)單問 新能源汽車銷量排名前十的品牌有哪些。寬泛的問題可能使 AI 給出不符合你預(yù)期時(shí)間或地域范圍的答案，明確條件能減少 AI 因理解偏差產(chǎn)生幻覺的可能性。

6. 拆解復(fù)雜問題：對(duì)于復(fù)雜問題，將其拆解成多個(gè)簡(jiǎn)單子問題依次提問。比如想要了解 如何開展一場(chǎng)線上營(yíng)銷活動(dòng)，不要一次性拋出這個(gè)大問題，而是先問 線上營(yíng)銷活動(dòng)前期需要做哪些市場(chǎng)調(diào)研，得到答案后再問 基于調(diào)研結(jié)果，如何選擇合適的線上平臺(tái)，接著問 在選定平臺(tái)上，怎樣設(shè)計(jì)有吸引力的營(yíng)銷內(nèi)容 等。通過這種方式，逐步引導(dǎo) AI 給出更有條理、更準(zhǔn)確的回答，降低產(chǎn)生幻覺的風(fēng)險(xiǎn)，因?yàn)獒槍?duì)單個(gè)小問題，AI 更易聚焦關(guān)鍵信息，避免混亂和錯(cuò)誤。

7. 對(duì)比不同表述下的答案：用不同的提問方式表達(dá)同一個(gè)問題，觀察 AI 的回答是否一致。例如，你想了解 提高英語口語水平的方法，你可以先問 有哪些有效的方式能提升英語口語能力，再換一種表述 如何快速讓英語口語變得流利。如果 AI 針對(duì)不同表述給出的核心內(nèi)容和方法一致，說明答案較為可靠；若出現(xiàn)較大差異，就需要進(jìn)一步分析和確認(rèn)，防止被幻覺誤導(dǎo)。

8. 檢查邏輯連貫性：仔細(xì)審查 AI 回答內(nèi)容的邏輯結(jié)構(gòu)。比如詢問 如何規(guī)劃一次長(zhǎng)途自駕游，AI 回答先安排行程，接著說要購買旅行保險(xiǎn)，然后又回到行程中景點(diǎn)的選擇，這種邏輯混亂的回答可能存在幻覺。一個(gè)合理的邏輯應(yīng)該是先確定目的地和大致行程，再根據(jù)行程安排準(zhǔn)備物資、規(guī)劃路線，最后考慮保險(xiǎn)等保障措施。通過檢查邏輯，能發(fā)現(xiàn)并排除那些因 AI 幻覺導(dǎo)致的不合理回答。

9. 查證專業(yè)術(shù)語解釋：當(dāng) AI 回答中出現(xiàn)專業(yè)術(shù)語時(shí)，進(jìn)一步查證這些術(shù)語的解釋是否準(zhǔn)確。比如詢問 區(qū)塊鏈技術(shù)在金融領(lǐng)域的應(yīng)用，AI 提到 智能合約，你可以接著問 智能合約的準(zhǔn)確定義是什么，然后查閱專業(yè)書籍或權(quán)威網(wǎng)站進(jìn)行核實(shí)。如果 AI 對(duì)專業(yè)術(shù)語的解釋存在錯(cuò)誤或模糊不清，那么整個(gè)回答的可靠性就值得懷疑，因?yàn)檫@很可能是幻覺產(chǎn)生的錯(cuò)誤信息。

10. 參考案例求證：要求 AI 提供相關(guān)案例來支撐其觀點(diǎn)和建議。例如在詢問 如何運(yùn)營(yíng)一家咖啡店 時(shí)，AI 給出一些營(yíng)銷策略，你可以追問 有沒有實(shí)際成功運(yùn)營(yíng)的咖啡店案例能體現(xiàn)這些策略的有效性。真實(shí)案例能直觀展示理論的可行性，如果 AI 無法提供具體案例或者案例與實(shí)際情況不符，那它給出的建議可能只是脫離實(shí)際的幻覺內(nèi)容，需要謹(jǐn)慎對(duì)待 。

昨天之后，我和團(tuán)隊(duì)也開始用這些方法，盡量避免AI幻覺！關(guān)于AI說謊周鴻祎有一個(gè)視頻也講的比較清楚，一定分享給大家！

看完覺得寫得好的，不防打賞一元，以支持藍(lán)海情報(bào)網(wǎng)揭秘更多好的項(xiàng)目。

標(biāo)簽： 標(biāo)簽 內(nèi)容 隨筆