具体损害到风险计量：
大语言模型幻觉对
侵权可预见性标准的挑战

导 言

作为引领新一轮科技革命与产业革命的战略性技术，生成式人工智能技术正以前所未有的速度向经济社会各领域深入渗透赋能。在政策引导和市场竞争的多重驱动下，以 Qwen、DeepSeek、ChatGPT 和 Gemini 为代表的大语言模型以其强大的自然语言处理和文字生成能力深刻改变人们内容创作与专业服务的供给模式，为高质量发展注入新的强劲动能。

然而随着大语言模型的广泛使用和推广，其带来的幻觉（hallucination）问题日益凸显。大语言模型的幻觉指的是模型生成了在表述上看似合理连贯，但内容上与客观事实或给定源材料不符乃至完全凭空捏造的不可靠输出。2023 年澳大利亚的一位市长因 ChatGPT 在回答中错误指控其为一桩贿赂丑闻的涉事方而对 OpenAI 提起诉讼；三名在人身伤害诉讼案件中起诉沃尔玛的律师在法庭文件中引用大语言模型虚构的案件而被联邦法官裁定支付 5000 美元的罚款。

基于深度学习的大语言模型所产生的幻觉并非传统意义上产品缺陷，而是根植于其生成原理的内在问题。根据大模型与输入信息源的关系，幻觉在技术上通常被分为内在幻觉和外在幻觉。内在幻觉指的是生成的内容与源材料相矛盾，在法律上更接近于一种可被明确证伪的虚假陈述，而外在幻觉是大模型生成的内容在源材料中无据可查，是一种无中生有的捏造。

(一) 算法：概率生成的固有缺陷

当前主流大语言模型的基础架构源于 Google 于 2017 年在论文 Attention Is All You Need 中提出的 Transformer 架构。借助此架构，模型开发者能通过输入海量文本数据进行深度学习，让大语言模型能够掌握语言的统计规律，从给定的上文中能够预测下一个最有可能出现的词元并不断输出下文。

然而大语言模型的运行原理并非完全基于对输入内容的语义理解，而是一种高度复杂的、基于概率的序列化词元预测过程。大语言模型自始至终没有像人一样对输入的内容进行真正的理解思考，而是进行了一场场高度复杂的基于概率的“文字接龙”游戏。

(二) 算力：规模与风险的矛盾

算力的指数级增长使得模型参数量得以从数十亿规模跃升至万亿级别，直接带来了模型性能的巨大提升。然而，模型规模越大，其生成的错误内容往往也愈发连贯和有说服力。TruthfulQA 基准测试发现，模型越大，其答案的真实性反而可能下降。

(三) 算料：训练数据偏见加剧幻觉

训练数据往往来源近乎整个开放互联网，不可避免地包含大量低质量的相互矛盾甚至完全错误的内容。由于参数量巨大，模型开发者往往难以筛选正确知识，导致模型学习数据的过程中会无差别地吸收错误数据。

理论上不可完全根除的系统性风险，迅速演变为现实的法律危机。在 Mata v. Avianca, Inc. 案中，原告律师使用 ChatGPT 进行法律研究，并在提交给法院的文件中引用了至少六个完全由模型捏造的虚假案例。

具体损害 vs 抽象风险

在传统侵权法中，可预见性是确立行为人注意义务的逻辑前提。法律并不要求行为人防范一切可能发生的损害，而只要求一个理性人能够在当时场景下，对由其行为可能引发的特定类型的损害进行合理预见并采取相应的防范措施。

“除去有关侵权人存在故意之场合，没有哪一个理由能像可预见性这样影响着我们对事件的判断。” —— 埃德格顿

由于当前技术局限，概率生成机制导致开发者无法在事前预见到任何一次幻觉的具体内容、时间、地点及方式。如果严格按照传统标准，要求开发者必须预见到模型会生成一段诬陷某位明星的文字，无疑是对开发者课以了其无法承担的注意义务。

面对这一挑战，本文主张应当将可预见性标准的审查重心，从对具体损害内容的事前预见，转向风险生成概率的可计量性评估。应借鉴比较法经验，引入第三方机构的测评基准作为参照。

欧盟《人工智能法案》采取了基于风险等级的强监管模式，这虽然严谨但也存在僵化风险。本文建议借鉴“模块组合”治理思路：

(一) 市场准入与透明度

建立独立的第三方测评与基准制度。应鼓励和支持由国家机构或受信任的第三方，建立针对主流大语言模型的常态化、公开化的幻觉风险测评基准，通过提升透明度来解决开发者与用户之间的信息不对称问题。

(二) 损害救济模块

探索建立损害赔偿基金或强制责任保险。为有效应对个案中受害者举证困难和获得赔偿难的问题，可在不完全颠覆过错责任原则的基础上，探索建立社会化的风险分散机制。

(三) 行业协同模块

专业指引与实践。律师协会可以出台指引，明确律师在使用生成式人工智能工具进行法律检索与文书起草时对大语言模型生成的案例法条引用的核实义务应达到何种程度。