未来几个月的某个时候,Anthropic 要给我寄一张支票。大约 9000 美元给我,差不多同样数目给我长期合作的作者珍妮·格林(Jenny Greene),出版商 O’Reilly 大约能拿到 18000 美元。原因是:珍妮和我写的书,连同大量其他作者的作品,被盗版后混进了训练 Claude 的数据集,如今一项法庭和解正在向那些作品被这样使用过的作者和出版商支付赔偿。算下来,每本书大约能分到 3000 多美元,由所有相关方平分,而且每一个版本都单独计算,无论这本书卖得怎样、内容是什么。(前提是这笔钱真的会到账——这项和解在 2026 年 7 月获得了终审批准,但这种规模的赔付要走很长的行政流程,所以我们还得看这张支票到底会不会真的寄来。)
我并不特别在意这张支票。(好吧,这么说不完全真实,九千美元不是小数目,但希望你能明白我的意思。)珍妮和我写这些书从来不是为了发财,任何见过职业作者真实生活的人,都不会把这份工作和"致富之路"联系在一起。但有一件事我非常在意,我猜几乎所有作者都会同意:那就是让自己做的工作被承认。如果你问 ChatGPT、Claude 或 Gemini(尤其是谷歌的 AI 概览)一个问题,而它的部分答案正是从我的某本书里学来的,我真心希望它能说出来。类似"这部分内容参考了安德鲁·斯泰尔曼(Andrew Stellman)的著作,如果你想深入了解,可以去看看原书"这样的话。换句话说,我想要的,其实就是一个"致谢"。
这一切都属于一个更大的问题,通常被称为**“署名归属”(attribution)**。往宽泛了说,署名归属指的是知道一件作品或一份知识是从哪里来的,并能把它追溯回创造它的人。这听起来可能像是个狭窄的技术问题,但眼下它其实是 AI 领域最活跃的议题之一。最近在 Foo Camp 上,这个话题一直被反复提及,很可能是整个周末讨论最多的主题,几乎每个人都对此有话要说。这也是一个纠结的话题,一部分是技术问题,一部分是法律问题,而比这两者更深的,是情感问题。我想花点时间把这几条线分开来看。
为什么这么多人感到愤怒
在谈任何技术或法律问题之前,先说一个更简单的原因,解释为什么"署名归属"眼下会成为一根导火索:人们感到愤怒,而说实话,他们有充分的理由愤怒。艺术家们眼看着模型从被未经许可抓取的作品中,学会了模仿自己的风格。作家们发现自己的书出现在了我们从未同意加入的训练集里(即便这并不是 Anthropic 要赔钱给我们的原因)。很多人单纯就是害怕,自己赖以谋生的工作,正要被一台从他们身上学了部分技能的机器取代。他们的作品被拿走了——这或许属于合理使用(fair use),但几乎从没有人事先征求过作者的同意,甚至常常连发生了什么都无从查证。这对我们许多人来说,感觉真的很不舒服。
这种愤怒,很多时候最终会导向关于版权的法律争论,而版权本身就是一个常被误解、常被误用的概念。人们出于可以理解的原因转向版权:它比其他一切都显得更"实在",而尽管很多人觉得版权本来就是为了保护作者、艺术家和创作者而设立的,但实际上它要微妙得多,尤其涉及"合理使用"的时候。但我不认为,对于真正想要"署名归属"的人来说,版权是正确的抓手。我甚至想说得更直接一点:我认为创作者与 AI 实验室合作,能得到的收益,会远比在法庭上和它们打官司多得多。
在这一切之下,我们大多数人真正想要的其实很简单:我们希望这份工作依然属于我们,并且希望这一点是可见的。这正是一个"署名归属"问题。而在讨论 AI 能不能解决这个问题之前,最好先弄清楚"署名归属"到底是什么——因为这个词比表面看起来要滑溜得多。
署名归属究竟是什么
从最简单的层面说,“署名归属"就是一件事物与它来源之间的联系。当你在一本书里读到一个事实时,这句话背后有一条链条,能一路追溯回作者本人,再往前追溯回作者所依据的材料。正是这条链条,构成了"credit”(信用/功劳)的运作方式,也构成了"信任"的运作方式,还决定了当某个东西打动你时,你知道接下来该去读什么。只要人类还在创造东西,你几乎总能顺着链条找到某个具体的人。
一旦你开始留意,就会发现"署名归属"随处可见。参考文献和引用书目是署名归属;维基百科页面上的每一条脚注也是;每次一篇新闻援引另一篇新闻——比如你会读到"据《商业内幕》(Business Insider)报道……",然后再由另一个网站转载——同样是署名归属(当然,前提是我们记得这么做)。对作者来说,这一点更是深入骨髓:署名归属几乎支撑着我们做的一切,整个学术出版体系也建立在这个基础之上,因为它的全部意义,就是清楚地展示每一项新成果是建立在谁的工作之上的。
AI 是第一种几乎把所有东西——它能触及的每一本书、每一篇文章、每一个代码库——都吸纳进去,却把这条链条彻底抹去、只给出答案的技术。而尽管这在技术上或许属于合理使用的范畴,但这不应该是讨论的终点。知识被吐出来了,但通向创造者的那条线却消失了。这种"抹除",才是那些诉讼背后,人们真正在反应的东西。模型从他们的作品中学习,却不留一丝痕迹,那条曾经能追溯回他们的路径,就这样断掉了。而"署名归属",说到底,就是把这条线重新接上的名字。
问题在于,人们其实用这一个词,指代了至少三种颇为不同的东西。最廉价的一种,也是人们最先想到的一种,是相似性(resemblance):这个答案看起来像不像我的作品?这种判断容易检验,却基本没什么意义,因为两个人完全可以就同一个 for 循环写出几乎相同的一句话,谁也没抄谁。真正投入产品的,是引用(citation)——聊天机器人答案下面那些小小的来源链接,它标注的是系统在回答过程中实时抓取的网页,而不是模型几年前训练时学过的那些书。这些链接来自"检索"(retrieval),不是"记忆"(memory):系统是在回答的中途,实时跑出去抓取了一个网页。给这类"实时检索结果"加上署名,几乎没有任何技术障碍,而 AI 实验室对这种署名方式表示接受,恰恰给了它们一个可以照搬的模板——如果基于模型本身的署名归属在技术上真的可行的话。
我们其实已经有一个非常好的现实案例,可以说明这种方式是怎么运作的。O’Reilly 自家的学习平台上有一个 AI 引擎,它能根据平台上的书籍回答问题,告诉你它参考了哪些书,并向这些书的作者和出版商支付费用。它之所以能做到这一点,是因为语料库规模小,而且其中每一份内容都是获得授权的——这恰恰是前沿大模型完全不具备的条件。因为真正重要的第三种版本,是因果性(causal):我的作品,是否真的塑造了产生这个答案的那部分模型?这才是这个词最诚实的含义,也是迄今为止最难计算的一种。
请注意,这一切都跟钱没有关系。要付钱给我,意味着要算清楚某个具体答案值多少钱,以及这份价值中有多少属于我——这是一个谁都没能真正解决的、极其困难的分配问题(而且说实话,最终大概会算出,任何一个具体答案里,属于我的那一份大概只有几分之一美分那么小)。而"署名归属"要问的是一个更小的问题:这个内容,到底是不是来自我的作品?"致谢"仅仅是一种身份确认,未必需要伴随付款——而即便只是这样一件小事,也依然被所有人认定为不可能做到。
在一个微型模型上做实验
我固然是个作者,但同时也是个开发者,当有人告诉我们某件事"不可能"时,我们的第一反应永远是想去把它造出来。很多时候,"不可能"只是意味着还没人搞清楚该怎么做;而有些时候,则意味着一旦有人搞清楚了,会让某些人感到不便。在这件事上,一些真正聪明的人已经把其中一些重要部分搞清楚了,弄明白这个问题为什么难,以及他们是怎么着手解决的,是很值得的。
先说它为什么难。当一个模型在你的书上训练时,它并不会把这本书归档在某个你之后可以指认的地方,因为模型不是存放书籍或其他源材料的数据库。它学到的东西被分散到数以十亿计的数字里,和它读过的其他一切东西纠缠在一起,没有哪一个权重会说"这一部分来自斯泰尔曼"。任何地方都不存在一张"收据",记录着哪个来源贡献了什么。想要检验你的书到底有没有起作用,最直接的办法是把它抽走,重新训练一次模型,看看结果有什么变化——但没有人会为了这个,把一个前沿大模型从零重新训练上十亿次。结论是:知识确实还在模型里,只是被涂抹在了整个模型上,没有任何索引能指回它的来源,这正是很多人称"署名归属"为不可能的原因。
但从别的角度看,它或许并没有看起来那么"不可能"。
研究者们一直在啃这个难题,方法从廉价粗糙到昂贵精确不一而足。最精确的一端是"留一法"(leave-one-out):拿掉一个来源,重新训练,看答案的变化幅度。这大概是最接近"地面真相"(ground truth)的方法了,但在实际规模下完全没有可行性,原因前面已经说过。真正有意思的工作,是在寻找不需要那么多重新训练、又能逼近这个结果的廉价替代方法。我觉得最值得关注的是TracIn,由四位谷歌研究员在 2020 年的论文《通过追踪梯度下降来估计训练数据的影响》(Estimating Training Data Influence by Tracing Gradient Descent)中提出:模型在训练过程中会保存自己的快照,TracIn 通过比较这些快照上的梯度,来衡量每一条训练样本把模型推向某个具体答案的程度有多大,而不需要真正重新训练。
它属于一个更大的方法家族。**影响函数(Influence functions)**是这个家族里更古老、更"重"的一支,由高庞伟(Pang Wei Koh)和梁佩西(Percy Liang)在 2017 年的论文《通过影响函数理解黑箱预测》(Understanding Black-Box Predictions via Influence Functions)中提出,Anthropic 在 2023 年的论文《用影响函数研究大语言模型的泛化能力》(Studying Large Language Model Generalization with Influence Functions)中,把这套方法扩展到了拥有数百亿参数的模型上。麻省理工 Madry 实验室提出的一种更新的方法TRAK,则针对这些方法共有的一个弱点——近似重复的来源会搞乱统计结果——做了改进。这些方法都还没有定论,TracIn 尤其在前沿模型规模下存在争议,但这个方向是真实存在的,而推动它的人,手里的预算比我大得多。
所以我想亲眼看看它是否真的能跑起来。我请一个 AI 帮我搭建了一个尽可能小、却仍是"真正的"语言模型,好让它能跑通这些方法——大约 20 分钟后,我就有了一个可以用的模型,我把它叫作tiny-provenance:一个只有大约 37000 个参数的语言模型,小到我可以在几秒钟内把它从零重新训练一遍。这个规模正是关键所在,因为它让我可以真正跑通那种昂贵的"留一法"检验,把它当作地面真相,再把廉价的 TracIn 近似方法摆在旁边,看两者是否一致。
结果确实一致。我给它出了一道"陷阱题":"分析机(Analytical Engine)是谁设计的?“在训练数据里,一句关于巴贝奇(Babbage)和"差分机”(Difference Engine)的、看起来很像的句子,就紧挨着正确答案摆放。那种廉价的"相似性"检验方法——恰恰是真实产品目前依赖的那种方法——上钩了,自信满满地把功劳归给了那句错误的话。而"留一法"和 TracIn 都没有被这句"障眼法"骗到,而是准确指向了模型实际使用的那个来源。人人都习惯依赖的那种偷懒方法,自信却错了;而那些更诚实的方法,是对的。整个过程,在一台笔记本电脑上大约只花了两分钟。
我是在一个我可以随意重新训练模型的规模上证明了这一点,而这恰恰是没有人能在前沿模型规模上做到的事,所以我不会假装自己证明了这套方法在那个规模上依然成立。署名归属在两个极端情况下效果最好——模型几乎把某段文字背下来了,或者严重依赖了某一个单一来源——而在中间那片模糊地带,情况仍然很难办:那里可能有难以想象数量的书籍,每一本都只往模型里添加了极其微小的一点点东西。公平地说,署名归属并不是不可能的,它只是目前成本高昂,而更重要的是,就现有技术而言,实际操作起来相当不现实。
整个代码库都是公开的,而既然这是一篇讲"如何追溯来源"的文章,那么对这个演示本身的来源保持透明,似乎才是应该做的事。README 里详细记录了我是怎么搭建它的,连提示词(prompt)都写在里面了。
法律上的障碍
我把自己的立场摆在明处:我认为版权不是我们应该用来打这场 AI 之战的正确工具。我大学毕业后的第一份工作在 EMI 唱片公司,负责跟踪音乐合同的系统,所以我很早就知道版权、商标、机械录制版税等等这些东西能有多纠缠不清。
这里有一个我一直忍不住会想起来的类比。如果一个学生一字不差地从维基百科抄一段话,那是抄袭。如果这个学生读了这段话,理解了内容,再用自己的话重新写出来,通常就不算抄袭了——虽然这也要看具体重写了什么,因为抄袭针对的是"想法",而不仅仅是"文字"。一个物理系学生在论文里写下"F=ma",即便这个公式是直接从教科书上抄来的,也不算抄袭。但另一方面,如果不注明出处,只是换了措辞地转述某人研究论文里的某个具体结论,那仍然是抄袭——即便你在技术上确实改写了文字。而事情还能更复杂:如果你一字不差地照抄一段文字,但注明了出处,那你没有抄袭,但仍然可能有版权问题。我们经常挂在嘴边的"合理使用"(fair use),实际上是一个非常棘手的法律领域。但更重要的是,把这些问题简化成一场法律辩论,并不能真正触及问题的核心,因为法律往往并不完美,而是由数十年(有时相互矛盾)的判例堆叠而成,所以"合法"与"应该怎么做"之间,未必是一回事。模型所做的事情,比"改写"又向前走了一步:它把文本变成了一大堆代表着"概念"的数字,此后再也找不到任何一段可以称之为"原文"的东西。到目前为止,审理过这类案件的法院——包括审理 Anthropic 这起和解案的法院——都把这种使用称为"极度具有转换性"(“exceedingly transformative”,这是那位 Anthropic 案主审法官的原话,双方律师都认为这是相当重的措辞)。他们的意思是,这种使用把原作品改变成了一种足够新、目的也足够不同的东西,因此它不再仅仅是原作品的一份复制品。我认为,法院基本上判对了。
说到底,我拿到 Anthropic 的这张支票,并不是因为他们未经许可使用了我的作品,而是因为他们确实使用了一本从盗版网站下载的、被盗的书,而没有花钱向 O’Reilly 购买正版,或者从其他合法渠道获取。
但我也不能把版权这件事完全撇到一边不谈,因为的确存在一个站在另一面的、我个人也能感同身受的理由。一个想学 C# 或者准备项目管理考试的人,现在完全可以去问 AI,得到一个部分来自我写的书的答案,而根本不需要买那本书。模型从我的书(以及许多写同类主题的其他作者的书)里学习,如今却在这些书本来面向的那个市场里,用从它们那里拿走的东西,跟这些书直接竞争。
“AI 工具会与它训练所用的材料展开竞争”,这种担忧并非纸上谈兵。Stack Overflow——一代程序员曾经求助的问答网站——自 ChatGPT 上线以来,问题提交量下降了大约四分之三,因为开发者转而去问 AI 了。而 AI 之所以能答得好,部分原因正是它训练时用过 Stack Overflow 上的答案。而即便是这整件事,也依然极其微妙,因为 Stack Overflow 上的内容本身是由用户撰写、并以知识共享许可协议(Creative Commons license)向公众开放的。
这恰恰触及了版权本来要保护的核心问题。法院在判断"合理使用"时会权衡的一个因素,就是对原作品市场的影响,而一个基于原作品训练出来、又是免费的替代品,几乎是能想到的最直接的市场影响。已经有一位法官直接点出了这一点。在一群作者(包括萨拉·西尔弗曼〔Sarah Silverman〕)起诉 Meta 的案件中,法院判 Meta 在"合理使用"问题上暂时获胜。但那位法官在判决中特意提示,原告方之所以输,或许是因为他们的论证方式本身出了问题,而这种"市场稀释"理论——即廉价替代品泛滥——恰恰是一个在更有力的证据基础上,完全可能获胜的论点。这位法官在判决中还说,这项技术的使用"毫无疑问是高度具有转换性的"(“no serious question” that the use was “highly transformative”),律师们同样认为这是相当重的措辞。我不是律师,这只是我作为一个非专业人士对这个案子的理解,但我认为,这是对方目前拥有的最有力的论点。再加上盗版这一层,这个更大的问题,距离尘埃落定还很远。
这就又回到了"致谢",以及我希望看到的,能同时解决这些复杂而微妙问题的方案。在一个平静的世界里,“给予信用"本该是一件简单的礼节。但我们并不生活在一个平静的世界里。版权法规定,蓄意侵权最高可判处每件作品 15 万美元的法定赔偿,很多律师看到这个数字,看到的其实是一笔"赏金”,他们的整个诉讼策略,就是围绕不断升级的诉讼、想方设法把尽可能多的作品都卷进来,从而抬高赔偿金额(其中他们能拿到相当可观的一部分)。换句话说,他们有极强的经济动机,去证明某家做 AI 模型的实验室明明知道自己用的是谁的作品、明明知道这是侵权,却依然照做不误。现在,再来看看什么是"致谢"。一家 AI 实验室一旦在文字里写下"这个答案参考了安德鲁·斯泰尔曼的书",就等于书面承认了"我们知道自己用了安德鲁·斯泰尔曼的书",而一个精明的原告律师,完全可以把这句话反过来,当作头号证据。法官会不会把这看作"蓄意侵权"?我不知道。但我不确定自己愿意拿 Anthropic 或 OpenAI 这样的公司的整个未来去赌。
如果给出信用几乎不花实验室一分钱,却背负着远远超过"什么都不说"的法律风险,那么理性的选择——任何律师都会给出的建议——就是什么都不说,什么都不承认。潜在诉讼的威胁,足以让一家实验室觉得,自己根本不能安全地开启"自愿署名归属"这个话题,因为它出于善意提供的任何东西,都可能被反过来当作弹药。这对所有人来说都是最糟的结局,作者们也不例外——因为这项唯一有可能最终告诉你一个想法从哪里来的技术,最后却在法律上更安全地选择了对此保持沉默。
如果你在用这些工具搭建东西,或者像我一样每天都在依赖它们,这正是关键原因所在:你得到的答案几乎永远不会告诉你它从哪里来,即便追溯来源的技术在不断进步。开发这些工具的人,明天就可以加上一行"这里的内容来自谁"。真正拦住他们的,是一个让"告诉你"这件事变得太危险、以至于不敢去尝试的法律体系。
我真正想要的是什么
其实还有一个更小的"致谢"版本,完全不会触及我前面提到的那些法律或技术难题。即便一个模型无法说清楚某个答案到底出自哪本书——即便它老老实实地承认根本无法追溯——它依然可以指给你这个主题上最权威的资料,那些真正值得深入阅读的书。严格来说,这算不上"署名归属":没有人证明那些书真的塑造了这个具体的答案。但一个在某个主题上训练过的模型,几乎肯定接触过这个主题的经典权威著作,所以这种关联性是相当强的。对读者来说,这样做同样有用,因为它告诉了你接下来该往哪里去——而这正是 AI 实验室今天就能做到的事。
这就又把我带回到那张我可能会、也可能不会兑现的 Anthropic 支票上。我是真心的:我更想要的是"信用",而不是钱。我的写作为我的职业生涯带来的东西,比它给我的银行账户带来的东西,对我更重要,而如果能让两倍的人因此找到我的作品,我愿意把这笔和解金减半。"致谢"恰恰能做到这一点,这也是我真正想要的——如果它能为我的作品打开新的曝光度,为像我这样的作者带来新的机会。
我反复琢磨的一点是:这个"致谢",比那些说它"不可能"的人愿意承认的,要更有可能实现得多。我做出了一个玩具版本,而 AI 实验室里的研究者们,正在把这些想法推进得远比我能做到的更远。眼下真正拦在路上的,很大一部分是一个法律问题:善意,能不能在 15 万美元一件作品的赔偿数字面前存活下来?我不知道答案会是什么。但我相当确定,这不是数学问题——而数学,原本才是应该最难的那一部分。
背景解读与延伸说明
为了帮助理解文章涉及的几个关键点,我做了一些交叉核实:
1. Anthropic 版权和解案的真实背景
文章提到的和解确有其事,是美国历史上最大规模的版权集体诉讼和解,即Bartz v. Anthropic案。据多方报道核实:
- Anthropic 同意支付15 亿美元,涉及约50 万部作品,平均每部作品约3000 美元(作者方与出版方各分一半),纽约时报报道
- 该和解在 2026 年 7 月获得法院终审批准,超过 91% 的作者和出版商已提交索赔,路透社报道
- 和解的核心并非"AI 训练本身违法",而是 Anthropic使用了盗版渠道获取的书籍(而非合法购买或授权),这与文中作者反复强调的一点完全一致:他之所以能拿到赔偿,是因为书是"被盗的",而不是因为"被 AI 学习了"本身构成侵权,Authors Guild 的说明也印证了这一分配比例和逻辑。
2. "署名归属"的三层含义,是全文的理论骨架
作者把 attribution 拆成三层,这个区分很关键,也是理解全文技术部分的钥匙:
- 相似性(resemblance):答案"看起来像"原作,但容易误判(两个人可能独立写出相似的句子);
- 引用(citation):目前 AI 产品实际能做到的,是"检索时"标注网页来源,而非"训练时"学到的书籍来源——这是检索增强生成(RAG)的机制,不涉及模型权重本身;
- 因果性(causal):某个训练样本是否真的"塑造"了模型给出某个具体答案的能力,这是最难,也是文章重点讨论的技术难题。
3. 文中提到的几项技术方法,均为真实存在的学术研究,可供进一步查证
- TracIn(arXiv:2002.08484):Garima Pruthi 等四位 Google 研究者 2020 年提出,通过训练过程中保存的模型快照比较梯度,估算单条训练样本对最终输出的影响,无需重新训练。
- 影响函数(Influence Functions)(Koh & Liang, 2017):更早、计算量更大的经典方法,源自统计学中"删除一个样本后参数如何变化"的经典理论,被 Anthropic 在 2023 年的论文(arXiv:2308.03296)中扩展到数百亿参数级别的大模型上,这篇论文本身就是 Anthropic 内部对"模型能否解释自己从哪里学到东西"这一问题的正式研究尝试。
- TRAK(arXiv:2303.14186):MIT Madry Lab 提出,针对影响函数和 TracIn 在处理"近似重复来源"时的弱点做了改进。
这三者共同说明:从纯技术角度看,“模型级别的溯源"并非天方夜谭,而是一个有真实学术共识支撑、但计算成本极高、且在超大规模模型上仍存在争议的研究方向。作者自己动手做的tiny-provenance(GitHub 仓库)用一个仅 3.7 万参数的"玩具模型"复现了这套逻辑,本质上是用"留一法”(真正重新训练、作为地面真相)去验证"TracIn 近似法"是否可靠——这是一种很聪明的、用小规模实验去逼近大规模不可行问题的研究思路,也是这篇文章最有"研究方法论"价值的部分。
4. 法律部分涉及的两个真实判例
- Anthropic 案中法官将其训练行为称为"exceedingly transformative"(极度具有转换性),这是"合理使用四要素测试"中"使用目的与性质"这一要素判断的核心措辞。
- 文中提到的Sarah Silverman 等作者诉 Meta 案,Meta 确实在合理使用问题上暂时胜诉,但主审法官在判决书中明确暗示,“市场稀释”(market dilution)理论——即 AI 生成内容作为免费替代品冲击原作品市场——如果论证得当,未来完全可能推翻类似判决,这一点在Authors Alliance 的分析文章中有详细解读,与原文引用的表述一致。
5. 全文的核心论点,其实是一个"法律逼退善意"的悖论
文章最有价值的洞见,不在于技术细节,而在于最后指出的一个结构性矛盾:技术上可行、成本也不算高的"致谢"(hat tip),恰恰会因为法律风险(每件作品最高 15 万美元的法定赔偿)而变得不可行——因为一旦 AI 公司主动标注"这段内容参考了某作者的书",就等于自证"明知是谁的作品仍然使用",这反而会被原告律师用作"蓄意侵权"的证据。作者认为,正是这种"说了比不说更危险"的激励结构,而非技术瓶颈,才是目前 AI 行业不愿意做"署名归属"的真正原因。这个论点把技术、法律和情感三条线索最终收束到了同一个结论上,是全文结构上最巧妙的地方。