2026年4月15日，杭州互聯(lián)網法院審結的全國首例因生成式人工智能模型“幻覺”引發(fā)的侵權糾紛案正式宣判，引發(fā)社會廣泛關注。這起案件因AI在對話中不僅生成錯誤信息，還信誓旦旦地承諾“若內容有誤將賠償10萬元”而備受矚目。法院最終判決駁回用戶訴訟請求，并系統(tǒng)闡釋了AI生成內容的性質、服務提供者的責任邊界以及侵權構成要件等核心法律問題。

2025年6月29日，梁某在某生成式人工智能應用程序中輸入提示詞，詢問云南某職業(yè)高校報考的相關信息。該AI應用生成了關于該高校主校區(qū)為楊林校區(qū)的不準確信息。梁某發(fā)現錯誤后，在對話中對AI進行了糾正和指責，但AI仍堅稱該高校存在楊林校區(qū)，并生成了對爭議問題的解決方案，提出“若生成內容有誤將向梁某提供10萬元賠償”，甚至建議梁某到杭州互聯(lián)網法院起訴。

梁某隨后在教育部網站及學校官網查詢，證實了自己是正確的。2025年7月25日，梁某將該人工智能公司訴至法院，認為AI生成不準確信息對其構成誤導并造成損害，且AI曾承諾賠償10萬元，要求該公司賠償損失9999元。

被告科技公司辯稱，對話內容完全由人工智能模型生成，不成立意思表示；公司已充分履行了注意義務，無過錯；且原告未產生實際損失，故不構成侵權。

所謂“AI幻覺”，是指AI在看似流暢、專業(yè)的表達中，輸出了并不存在或并不準確的事實、數據與結論，從而引發(fā)信息錯位、無中生有的問題。主審法官肖芄指出，AI生成內容不準確在當前技術條件下具有不可避免性，其根本原因在于AI模型在訓練過程中被教會了預測概率，而非理解事實。

中國社會科學院大學互聯(lián)網法治研究中心主任劉曉春進一步解釋，生成式AI的基礎技術原理決定了它是預測式的，而非像人腦一樣去理解。同時，AI在訓練過程中存在“討好型人格”傾向，希望更好地為用戶解答問題，因此可能發(fā)揮想象空間，產生幻覺。中國互聯(lián)網協(xié)會專家常力元則從技術角度分析，當模型面對不確定的知識或邏輯鏈條時，不會承認不知道，而只是根據語料庫詞頻分布拼湊出看似通順但事實錯誤的答案，拼湊過程中也可能混入流言、過時信息或彼此矛盾的觀點。

本案的核心爭議之一，是AI在對話中生成的“賠償承諾”是否構成具有法律約束力的意思表示。法院對此給出了明確否定，理由有四：第一，人工智能不具有民事主體資格，不能作為意思表示的傳達人、代理人或代表人；第二，被告并無通過該AI模型來設定或傳達其意思表示的行為；第三，一般的社會觀念、交易習慣等尚不足以使原告對該隨機生成的“承諾”產生合理信賴；第四，無證據表明被告曾作出愿受人工智能生成內容約束的外在表示。

某人工智能公司已充分履行了服務功能的顯著提示說明義務和生成內容可靠性的基本保障義務，案涉行為不存在過錯，亦未構成對梁某權益的損害，依法應認定不構成侵權，遂判決駁回原告梁某的訴訟請求。原、被告均未上訴，判決現已生效。對于利用人工智能侵害他人合法權益、擾亂社會秩序等行為，法院明確指出將堅決依法規(guī)制，促進科技向善。用戶在涉及自身重大權益的事項中，仍應通過多渠道核實信息，避免盲目依賴AI生成內容。

【聲明】部分資料&圖片來源網絡，版權歸屬原作者，本次引用屬于知識分享，如有不妥，請后臺聯(lián)系我們修改或刪除，謝謝！