生成式人工智能服务提供者间接侵权责任的承担与限制

摘要：以ChatGPT为代表的生成式人工智能不具备民事主体资格，生成式人工智能造成他人损害的，服务提供者应当承担侵权责任。服务提供者兼具内容生产者与平台管理者的双重身份，负有审核等安保义务。其违反安保义务，原则上应当承担具有间接侵权责任属性的相应的补充责任，可以行使追偿权。但在“知道或者应当知道”的情况下，服务提供者应当承担连带责任，乃至惩罚性赔偿。属于来源非法非法生成的、输入信息非法非法生成的且服务使用者传播侵权内容造成第三人损害的，服务提供者因违反双重审核义务，应禁止追偿。同时，应类型化设置“避风港规则”适用的责任豁免规则、形塑选择性适用著作权合理使用规则的阻却违法事由认定机制及构筑有限适用个人信息合理使用规则的责任豁免制度，系统化构建服务提供者间接侵权责任的限制规则。

关键词：生成式人工智能服务提供者;主体资格;侵权;责任承担;责任限制

作者 | 杨显滨(法学博士，华东政法大学中国法治战略研究院教授)

来源 |《法学家》2023年第3期“专论”栏目。

因篇幅较长，已略去原文注释。

目录

一、生成式人工智能侵权责任主体的认定

二、生成式人工智能服务提供者间接侵权责任承担的体系化构筑

三、生成式人工智能服务提供者间接侵权责任限制制度的完善路径

结语

2022年11月30日，美国人工智能(AI)研究公司Open AI推出了对话机器人应用ChatGPT(Chat Generative Pre-trained Transformer)，在短短两个月的时间内，该应用的月活用户突破一个亿，在文本、图片、视频、音频、代码等方面的生成能力可见一斑。在文本方面，生成式人工智能(Generative AI，GAI)以ChatGPT、BERT、XLNet、CTRL、文心一言、讯飞星火等大语言模型(Large Language Models，LLM)为主要代表，主要通过语料库数据、实时抓取数据、服务使用者输入信息对人工智能模型进行训练，经过模型的预训练阶段、优化模型参数阶段、人类反馈阶段，生成式人工智能最终形成可供服务使用者使用的大语言模型。在图像方面，生成式人工智能主要包括DALL·E、DALL·E2、“商汤秒画SenseMirage”、Midjourney、Stable Diffusion等模型，可以根据文本提示生成高质量的图像和艺术作品。然而，基于部分训练数据存在侵权内容、人工智能模型的固有缺陷、人工智能滥用等因素，个人利益乃至公共利益保护面临巨大挑战。我国先后出台《互联网信息服务算法推荐管理规定》(以下简称《算法推荐管理规定》)、《互联网信息服务深度合成管理规定》(以下简称《深度合成管理规定》)、《生成式人工智能服务管理暂行办法》(以下简称《人工智能暂行办法》)等规章，企及消弭上述问题，但面对生成式人工智能生成机理的复杂性，上述规范心有余而力不足。

由此引发的问题包括：一是生成式人工智能生成内容构成间接侵权(第三人介入型侵权)的，谁是侵权主体，是生成式人工智能抑或服务提供者，有待进一步明确。需要说明的是，本文主要以间接侵权为中心展开，直接侵权(如非第三人介入型侵权)非论证要点。二是服务提供者是否是网络服务提供者，若答案是肯定的，与一般网络服务提供者的区别是什么，负有何样的安保义务，违反安保义务承担相应的补充责任后能否追偿。三是服务提供者违反安保义务是否仅承担相应的补充责任，有无连带责任、惩罚性赔偿责任适用的空间;后两种责任形态如果有适用可能，有没有类型化处理的必要。四是为了保护以ChatGPT为代表的生成式人工智能产业，可否对服务提供者的责任进行适当限制，具体包括哪些情势，如何进行具体的制度建构与设计，急需展开全面论述。在直击上述问题的过程中，何以实现《深度合成管理规定》《人工智能暂行办法》等规章与《中华人民共和国民法典》(以下简称《民法典》)、《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)、《中华人民共和国著作权法》(以下简称《著作权法》)等法律的协调适用，亦是迫在眉睫的现实问题。因此，研究生成式人工智能服务提供者间接侵权责任的承担与限制，具有重要的理论与实践意义。

一、生成式人工智能侵权责任主体的认定

现有生成式人工智能处于“弱人工智能”阶段，恐难取代服务提供者成为民事主体，享有权利，履行义务。生成式人工智能服务提供者提供的是内容服务，不同于一般意义上的具有平台媒介性质的网络服务提供者，也不是技术支持者抑或内容提供者，兼具内容生产者与平台管理者的双重身份。

(一)生成式人工智能的民事主体资格反思

生成式人工智能侵权案件频发的当下，人工智能是否可以成为侵权责任主体存在争议，现有立法则保持沉默。生成式人工智能成为侵权责任主体的前提是具备法律主体资格，学界对此观点不一。

有学者认为，生成式人工智能“具备享有权利和履行义务的意志能力，即意识和选择或反思调整的能力”，可以赋予其法律主体资格，即肯定说。罗马法上，“所有具有合理意志的人自然是法律主体”，意志能力对民事权利能力的认定具有决定性作用，进而主宰民事权利义务关系及民事责任承担。但生成式人工智能仍处于弱人工智能阶段，不具有自由表达诉求的能力，不应视为法律主体。在“李××与刘××侵害作品署名权、信息网络传播权纠纷案”(我国AI生成图片著作权第一案)中，法院认为，“生成式人工智能模型不具备自由意志，不是法律上的主体。”彭诚信教授认为，除意志能力要件外，“人工智能是否应该存在作为法律主体予以承认，重要的一个要素是考虑其是否能够独立承担法律责任，尤其是民事赔偿责任。”也即，物质性要件。肯定说主要包括电子代理人说、“电子人”说、有限人格说和人格拟制说。电子代理人说支持者认为，“AI机器能够被看作是一个雇员，因为它提供的服务主要是由程序员或所有者使用的。”代理人行使代理权的“法律效果直接归属于被代理人”，固然可以解决物质性要件问题，但生成式人工智能等人工智能“不具备意志能力，对自己的行为没有道德判断能力”，不具备意志能力要件。“电子人”说拥护者宣称，“‘电子人’是拥有人类智能特征，具有自主性，以电子及电子化技术构建的机器设备或系统。”“电子人”说力争通过“自主性”论证，解决意志能力要件问题。即便如此，“电子人”如何满足物质性要件不得而知。秉持有限人格说的学者坚称，“人工智能虽然具有法律人格，但这种人格是有限的，并非完全的法律人格。”可生成式人工智能等人工智能在什么情况下享有法律人格，是否与自然、法人、非法人组织存在差异，有待进一步澄清。支持人格拟制说的学者主张，应当“将人工智能拟制为像法人那样的主体。”“法人的意志能力则可以归结到由自然人构成的法人机关的意志，实际上根源还在于自然人。”“尽管其本身没有意志与激情，却可以将人的意志和激情归属于它。”汉斯·凯尔森认为，“当一个实体是法律规范的实体，这个实体就是法律意义上的人”，享有民事主体资格。鉴于此，生成式人工智能等人工智能的意志能力问题得以消解，但没有责任财产又如何切合物质性要件值得商榷。

综上，以电子代理人说、“电子人”说、有限人格说和人格拟制说为代表的肯定说难以自圆其说，应予摒弃，奉行否定说。此外，王利明教授认为，“自然人即生物学意义上的人，是基于出生而取得民事主体资格的人。”据此，“出生”是自然人具有民事权利能力，获取民事主体资格的起点，“死亡”是终点，和意志能力无关。“意志能力在我们看来并不是界定民事主体的本质条件”，即使生成式人工智能具备意志能力也不能就此认定其具有民事主体资格。另外，“从主体要件的物质性要求来说，至少在当下人工智能体尚没有取得主体资格的物质性要件”。职是之故，应依循否定说否认生成式人工智能的法律主体资格。2020年欧盟《关于人工智能系统运行的责任立法倡议》(Draft Report with Recommendations to the Commission on a Civil Liability Regime for Artificial Intelligence，DRRCCLRAI)B部分第5条指出，“人工智能系统既没有法律人格，也没有人类良知，它们的唯一任务就是为人类服务。”以ChatGPT为代表的生成式人工智能同样如此，“至少目前还不能匆忙让它成为一个法律上的‘人’。”

(二)生成式人工智能服务提供者作为侵权责任主体的确认

既然生成式人工智能不具有民事主体资格，此时须诉诸生成式人工智能服务提供者。生成式人工智能以语料库收集数据、实时抓取数据或服务使用者输入的文本、图片、声音、视频等为“原料”，对服务提供者设计的模型进行训练，生成服务使用者需要的深度合成内容。在此过程中，生成式人工智能的工具性显露无遗，“即使具有一定自主性，仍受人类控制。”美国《国家人工智能倡议》(National Artificial Intelligence Initiative，NAII)草案第2部分第1条亦指出，“人工智能是一个工具。”欧盟《人工智能白皮书——追求卓越和信任的欧洲方案》(White Paper on Artificial Intelligence—A European Approach to Excellence and Trust，WPAI-EAET)前言(Introduction)部分强调，“人工智能是数据、算法、算力结合形成的技术集合体。”以ChatGPT为代表的生成式人工智能不过是服务提供者操纵的“提线木偶”，收集何种数据、设计哪类模型、优化哪些模型参数、如何回应人类反馈等皆取决于服务提供者，恰是这一过程主宰着生成式人工智能根据服务使用者输入的提示词(prompts)生成何种内容。故生成内容引发侵权的，相对于无民事主体资格的生成式人工智能，由服务提供者承担损害赔偿责任更具合理性。

此外，基于生成式人工智能生成内容造成他人损害与服务提供者违反审核等安保义务的不作为之间的因果关系，视服务提供者为侵权责任主体并无不妥。通说认为，我国侵权责任构成要件中因果关系的认定采用的是相当因果关系说。相当因果关系的判断主要分为两个步骤，即事实上因果关系的判断与法律上因果关系的判断。关于相当因果关系的判断基准，王泽鉴教授认为，“无此行为，虽必不生此损害，有此行为，通常即足生此种损害者，是为有因果关系。”“无此行为，虽必不生此损害”指向“加害行为与权利受到侵害的后果之间的因果关系”，即事实上因果关系的判断。“有此行为，通常即足生此种损害者”指向“权利受到侵害的事实与被害人所受损害之间的因果关系”，即法律上因果关系的判断。事实上因果关系的判断主要有“删除说”(the elimination theory)和“代替说”(the substitution theory)两种学说。“删除说”“亦即删除加害人的不法行为后，检验被害人的损害是否仍然会发生”，“若结果不能发生，或是只能以一种完全不同的方式发生，则存在因果关系”。反之，则不存在因果关系。“代替说”“假定行为人在现场且实施了合法行动，其他条件完全不变”，事件的发生是否改变。“通说认为，应当采用‘删除说’。”

以ChatGPT为例，生成内容引发侵权造成他人损害的，应从事实上因果关系和法律上因果关系两个角度，判断ChatGPT服务提供者是否满足侵权责任构成要件中的因果关系。事实上因果关系判断层面，依据《民法典》(第1195条至第1196条、第1198条)、《数据安全法》(第27条和第29条)、《深度合成管理规定》(第10条、第11条和第16条)、《人工智能暂行办法》(第4条第5项、第12条和第14条)等规范性文件，ChatGPT服务提供者对数据、模型、模型训练、生成内容等负有审核等安保义务，因过失违反安保义务，造成他人人格权、著作权等损害的契合损害要件。受害人权利受到侵害是因加害行为(不履行安保义务的不作为行为)而发生，成立事实上的因果关系。法律上因果关系判断层面，“如果这个事实在通常情况下都可能发生同样的损害结果，那么，这个行为与损害结果之间就有因果关系。”ChatGPT服务提供者违反审核等安保义务(加害行为)侵害他人人格权、著作权(权利遭受侵害的事实)通常与损害具有“相当性”。由此，谛视ChatGPT服务提供者违反审核等安保义务引发侵权责任的因果关系判断中，事实上的因果关系和法律上的因果关系判断皆不存在龃龉。在具备违法行为、过错、损害等侵权责任构成要件的情况下，违法行为与损害之间具有相当因果关系，ChatGPT服务提供者可以成为侵权责任主体。

(三)生成式人工智能服务提供者兼具内容生产者与平台管理者的双重身份

《深度合成管理规定》第23条第1款规定，“深度合成技术，是指……制作文本、图像、音频、视频、虚拟场景等网络信息的技术”，故深度合成服务提供者是网络服务提供者。生成式人工智能作为深度合成的一种，采用网络API方式为公众提供服务，其服务提供者亦应界定为网络服务提供者。依循《民法典》第1197款，生成式人工智能服务提供者负有审核等安保义务;未尽到安保义务，造成他人损害的，应当承担相应的补充责任。

证成生成式人工智能服务提供者是网络服务提供者后，有必要结合生成式人工智能的运行机制及服务提供者对生成内容的干涉程度与控制力，剖析服务提供者的双重身份。

一是生成式人工智能服务提供者是内容生产者。以ChatGPT为例，生成内容产生的每一个环节均受制于服务提供者。具体而言，语料库数据、实时抓取数据、服务使用者输入信息的选择及不同语种数据信息的选取等取决于ChatGPT服务提供者的价值取向。微调阶段，“人类标注人员扮演用户和代理进行对话，产生对话样本并对回复进行排名打分，将更好的结果反馈给模型”，以使生成内容“符合人类意图、知识观和价值观”。标注人员通常为ChatGPT服务提供者的工作人员，抑或是接受服务提供者的委托从事数据标注的自然人、法人或其他组织。前者，依据《民法典》第1191条第1款，“用人单位的工作人员因工作造成他人损害的，由用人单位对外承担侵权责任。”后者，标注人员“仍然属于受托人的角色时，委托人对受托人享有实际控制力”。所以，ChatGPT服务提供者对内容生成过程具有“不可或缺”的控制力，应纳入内容生产者范畴。同时，ChatGPT服务提供者控制算法模型的诸多底线标准，主导内容生成。《深度合成管理规定》第10条第2款、《算法推荐管理规定》第8条、《人工智能暂行办法》第8条、欧盟《人工智能法案》(AI Act，AIA)第5条第1项关于“特征库”“标准、规则和程序”“算法模型”“标注规则”“AI系统”的规定可以佐证。因此，以ChatGPT为代表的生成式人工智能服务提供者对算法模型具有控制力，把控以大语言模型为基础的内容生成，应界定为内容生产者。

二是生成式人工智能服务提供者是平台管理者。庞大的用户基数致使ChatGPT可以在较大范围内输出价值观念，甚至包括仇恨、歧视性内容。2016年微软公司研发的聊天机器人“Tay”就曾因大量有害输入而成为“种族歧视者”。这意味着虚假信息等引发的人格权侵权、著作权侵权问题加剧，生成式人工智能演变为生成侵权内容这一“危险”的开启者。依循“危险控制理论”，服务提供者应当承担平台管理者责任——防控、减少危险。这与《深度合成管理规定》关于“建立健全……管理制度”(第7条)、“制定和公开管理规则”与“依法依约履行管理责任”(第8条)、“加强深度合成内容管理”(第10条第1款)、“落实……安全管理责任”(第13条)、“加强训练数据管理”(第14条第1款)、“加强技术管理”(第15条第1款)等规定的立法目的是一致的。也即，通过课以生成式人工智能服务提供者上述平台管理等安保义务，督促其加强平台管理，减少生成内容对他人权益的侵害。德国学界称此类网络服务提供者为“内容框架提供者”(Rahmen-Content-Provider)，强调其参与内容形成，并对内容负有一定的主动注意义务。欧盟《人工智能法案》第14条第2款指出，服务提供者应“防止或最大程度地降低……健康、安全或基本权利风险”，该条第4款对审核义务的具体操作措施进行了详细规定，《网络信息内容生态治理规定》第7条、《人工智能暂行办法》第19条及《深度合成管理规定》第10条亦有类似规定。职是之故，生成式人工智能服务提供者履行审核等安保义务即为履行平台管理职责，其平台管理者身份毋庸置疑。

《民法典》第1194条至第1197条指称的网络服务提供者主要是具有平台媒介性、充当纯粹信息传播平台或渠道的提供者，我国司法实践亦持此观点。生成式人工智能服务提供者除扮演媒介者角色外，还负责平台管理，主导内容生成，兼具内容生产者与平台管理者的双重法律身份。为了规制生成式人工智能这类新型网络服务提供者，可以对《民法典》第1194条至第1197条中的“网络服务提供者”进行扩大解释，同时根据生成式人工智能的特性适当调整现有责任认定与承担制度。

二、生成式人工智能服务提供者间接侵权责任承担的体系化构筑

生成式人工智能服务提供者违反审核等安保义务，造成他人损害的，原则上应当承担相应的补充责任。但是，考虑到生成式人工智能的特殊性，服务提供者在间接侵权责任承担及追偿权行使方面与一般网络服务提供者存在差异，故应通过类型化处理作出不同于一般网络提供者的责任承担体系设计。

(一)生成式人工智能服务提供者相应的补充责任与追偿权行使机制构造

生成式人工智能服务提供者属于网络服务提供者范畴，依据《民法典》第1195条和第1196条，负有安保义务。《数据安全法》第27条和第29条即是对生成式人工智能服务提供者等数据处理者安保义务的回应。依循《民法典》第1195条第1款，服务提供者未主动“采取删除、屏蔽、断开链接等必要措施”的，应当承担相应的补充责任。《深度合成管理规定》《人工智能暂行办法》是国家网信办发布的规章，其要求服务提供者履行审核等安保义务是《民法典》第1195条和第1196条“必要措施”的具体化。《深度合成管理规定》第10条中的“进行审核”“建立健全用于识别违法和不良信息的特征库”“依法采取处置措施”，第11条中的“建立健全辟谣机制”及第16条中的“采取技术措施添加不影响用户使用的标识”等可以佐证。生成式人工智能作为深度合成的一种表现形式，《人工智能暂行办法》第12条和第14条亦有类似规定。对于违反安保义务的间接侵权责任，《深度合成管理规定》《人工智能暂行办法》皆没有明确指向《民法典》，但可以经由前者第22条第1款及后者第21条第1款中的“法律”引致适用《民法典》。如因大语言模型本身存在缺陷而生成虚假信息，造成他人损害，且生成式人工智能服务提供者违反安保义务的，应当依据《民法典》第1198条承担相应的补充责任。

模型预训练阶段，服务提供者所使用的海量数据主要包括语料库数据、实时抓取数据和服务使用者输入信息三种。基于生成式人工智能服务提供者侵权责任的具体形态，本节将训练数据分为两类：第一类是语料库获取数据与实时抓取数据。主要表现为来源合法非法生成和来源非法非法生成两种侵权形态。一是来源合法非法生成，服务提供者未尽到对生成内容的审核等安保义务的，应适用《民法典》第1198条第1款，承担直接侵权损害赔偿责任。尤其需要回应的是，因服务使用者传播造成第三人损害的，适用该条第2款，服务使用者承担直接侵权责任。其不明或无赔偿能力的，生成式人工智能服务提供者承担间接侵权责任，即相应的补充责任。二是来源非法非法生成的，且生成式人工智能服务提供者未尽到审核等安保义务的，因为此时依然没有第三人介入，参照《民法典》第1198条第1款承担侵权损害赔偿责任即可。譬如，没有依照《深度合成管理规定》第16条规定“采取技术措施添加不影响用户使用的标识”。美国《国家人工智能倡议法案》(National Artificial Intelligence Initiative Act，NAIIA)第3章第1条第1款第3项亦有类似规定。届时，服务使用者传播非法生成内容造成第三人损害的，可以对生成式人工智能服务提供者实施相应的补充责任加惩罚性赔偿。本章第三节将就此展开论述，在此不赘。第二类是服务使用者输入数据。表现为输入信息合法非法生成和输入信息非法非法生成两种侵权形态。一是输入信息合法非法生成，原则上按照《民法典》第1198条第1款无第三人介入型侵权的规定处理。服务使用者传播造成第三人损害的，且服务提供者违反审核等安保义务的，承担相应的补充责任足矣。二是输入信息非法非法生成的，服务使用者是直接侵权人，生成式人工智能服务提供者原则上仅承担违反双重审核等安保义务的顺位责任。但与违反单一审核义务相比，其过错更大，可以适当加重责任承担份额。服务使用者传播侵权内容造成第三人遭受损害的，参照前者第二种情况在补充责任的基础上实施惩罚性赔偿，此处不再展开。

综上所述，在服务使用者传播侵权内容，造成第三人损害的情形下，生成式人工智能服务提供者承担侵权责任的形态表现为来源合法非法生成、来源非法非法生成、输入信息合法非法生成、输入信息非法非法生成四种。遵循《民法典》第1198条第2款，生成式人工智能服务提供者承担相应的补充责任后，可以向直接侵权人进行追偿。第一、三种情况下，生成式人工智能服务提供者违反的是单一审核等安保义务，对损害结果发生的原因力相对较小，赋予其追偿权毋庸置疑。“第三人因为距离损害更近，属于终局责任人，安全保障义务人可以向其追偿。”然而，第二、四种境遇下，生成式人工智能服务提供者违反的是双重审核等安保义务，即非法数据信息的第一重审核义务和非法生成内容的第二重审核义务，对损害结果发生的原因力较大，可以禁止其行使追偿权。