AI开拓者指南：GenAI产品应用TIPs——从采购到使用（采购篇）

AI浪潮愈发澎湃的当下，生成式人工智能技术已成为企业创新与效率提升的重要工具。企业对生成式人工智能产品（以下简称为“GenAI产品”）的应用需求日益增长，其应用场景也愈发多样化：开展营销活动的过程中利用AI生成创意文案和视觉设计素材，极大地缩短了创作周期并降低了成本；使用AI客服机器人处理客户咨询，显著地提高了客户满意度和响应速度；使用AI还可以为客户提供个性化的产品推荐，提高销售转化率等等。

然而企业在积极探索GenAI产品等新质生产力工具的同时，也不能忽视潜在的风险。我们将通过“采购篇”和“使用篇”这两个篇章，针对企业采购GenAI产品和使用GenAI产品这两个阶段，梳理将GenAI产品引入企业工作流程可能涉及的风险点，并结合这些风险点，为企业如何针对不同场景下GenAI产品的应用制定清晰明确的指南提供建议，从而协助企业在实现AI转型的同时防范相关风险。

通过本文，你将至少了解：

采购GenAI产品时，需要提前关注商业秘密泄露、个人信息保护、知识产权侵权等风险；
使用GenAI产品时，应当至少考虑构建完善的内部管理制度。
采购篇
在企业决定引入GenAI产品之前，必须对采购决策进行全面且审慎的评估，结合自身的业务开展情况以及需求，选择最适合自身，同时合规风险也较为可控的GenAI产品。从控制合规风险的角度出发，我们建议企业在采购GenAI产品的阶段至少需要考虑以下要点：

1. 采购前：这些问题考虑过没有？
   （1）使用GenAI产品的目的和场景
   在采购GenAI产品之前，企业首先应当明确使用GenAI产品的目的和场景，因为这将决定企业在使用GenAI产品过程中需要着重防范的法律风险。

例如，倘若企业将GenAI产品用于广告文案、图片、短视频等营销内容的生成，需要特别关注知识产权侵权的风险，尤其是著作权侵权的风险。GenAI产品生成的内容可能涉及对他人作品的复制或改编，若未经权利人授权使用，可能引发著作权纠纷。此外，由于GenAI产品算法的训练数据具有局限性、且缺乏人类的基本判断能力，GenAI产品可能会生成不准确或虚假的信息，若企业在广告文案或产品描述中使用GenAI产品生成的内容涉及夸大产品功效等虚假宣传，企业还可能因构成虚假宣传、虚假广告需承担违反《中华人民共和国广告法》《中华人民共和国反不正当竞争法》的法律责任。

再如，倘若企业将GenAI产品用于个性化推荐（如电商平台的商品推荐），则需要重点关注数据隐私和个人信息保护问题。个性化推荐通常依赖于对用户行为数据的分析，若企业在数据收集、存储和使用过程中未能遵守《中华人民共和国个人信息保护法》等相关法律法规，可能面临行政或民事责任。

TIPS：企业在采购前应明确GenAI产品的使用场景，并根据场景特点定位具体的风险领域，进而制定相应的合规策略。

（2）使用GenAI产品生成内容（以下简称“AIGC”）的目的和场景
除了使用GenAI产品的目的和场景以外，企业还应关注后续使用AIGC的目的和场景。

例如，若AIGC仅用于企业内部使用（如内部报告、数据分析等），由于AIGC仅在企业内部流通，不对外公开传播，未进入公共领域，往往不会对权利人的利益造成直接损害，因此侵权风险较低。然而，若企业在商业推广的过程中将AIGC通过互联网平台、线下媒体等各种渠道向公众进行投放，且AIGC与现有作品构成实质性相似，或包含他人肖像、商标或其他受保护的元素，往往很容易就被公众以及权利人识别，企业面临的侵权风险将显著提升。

TIPS：企业在采购GenAI产品前，还应评估AIGC的使用目的和场景，并基于AIGC的使用目的和场景选择合适的GenAI产品，例如在企业后续将对外使用AIGC的情形下，建议企业优先选择使用授权素材库进行模型训练并设置侵权违规内容拦截功能的GenAI产品。

（3）是否会向公众提供GenAI产品
基于是否会向公众提供GenAI产品，GenAI产品提供者以及企业自身可能构成不同类型的主体，进而导致需要履行不同的责任与义务。在我国，根据《生成式人工智能服务管理暂行办法》等法律法规，如企业仅将GenAI产品提供给企业内部的员工使用，通常不属于向公众提供GenAI产品，因而不属于生成式人工智能服务提供者，往往无需履行生成式人工智能服务提供者的合规义务。然而，若企业计划将GenAI产品向公众提供（如向一般用户提供基于GenAI产品开发的应用），则企业很有可能构成生成式人工智能服务提供者，进而需要承担算法备案、生成式人工智能服务备案/登记、网络信息安全和个人信息保护、违法内容管控、未成年人保护等生成式人工智能服务提供者的合规义务，并需要避免采购可能导致企业无法履行合规义务或面临较高的侵权或违规风险的GenAI产品（例如境外GenAI产品）。

TIPS：企业在采购GenAI产品前，应当针对使用的全流程进行评估，特别是最终是否会向一般用户提供基于GenAI产品开发的应用。

（4）是否会通过精调、LoRA等方式对于GenAI产品进行优化
企业采购GenAI产品后，可能会根据自身需求对GenAI产品进行优化，如通过精调（Fine Tune）或低秩适配（LoRA）等方式调整GenAI产品所依托的模型参数，以提升生成内容的准确性和适用性。因此，如企业后续存在以对模型的代码、参数或架构进行修改、对于模型进行数据训练等方式对于GenAI产品进行优化的需求，在采购GenAI产品前，企业需特别关注GenAI产品提供者是否允许此类优化行为，审查GenAI产品的许可协议，选择许可协议中允许企业按照自身所计划的方式对于GenAI产品进行优化的GenAI产品。

TIPS：企业在采购GenAI产品前，应当针对使用GenAI产品的具体方式进行评估，如果需要对GenAI产品进行优化，应当特别关注许可协议等对使用边界进行明确的文件。

2. 采购时：这些问题关注一下？
   （1）GenAI产品提供者是否已取得所需的合法资质？
   在我国，根据《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》等人工智能领域法律法规，GenAI产品涉及的合法资质主要包括算法备案以及生成式人工智能服务备案/登记；如GenAI产品未取得所需资质，可能导致GenAI产品被关停，进而对使用GenAI产品的企业造成不利影响。根据法律法规的规定以及我们与网信办等监管部门的沟通，GenAI产品是否需要进行算法备案、生成式人工智能服务备案/登记，主要取决于其是否面向境内公众提供生成式人工智能服务，以及该服务是否具有舆论属性或社会动员能力。如企业仅允许内部员工使用企业采购的GenAI产品，该情形下GenAI产品不涉及面向境内公众提供生成式人工智能服务，因此无需进行算法备案或生成式人工智能服务备案/登记。然而，如企业会向公众提供GenAI产品（例如向一般用户提供基于GenAI产品开发的应用），则GenAI产品涉及面向境内公众提供服务，且由于实务中对于何为“具有舆论属性或社会动员能力”的判断相对较为宽泛，往往涵盖了所有具备信息共享功能的服务，GenAI产品提供的服务有较高概率构成“具有舆论属性或社会动员能力”的生成式人工智能服务，企业需要确保该等GenAI产品已进行算法备案、生成式人工智能服务备案/登记。

TIPS：企业在采购国内开发者提供的GenAI产品时，尤其是在后续会向公众提供GenAI产品的情况下，建议要求GenAI产品提供者出示相关的备案/登记证明文件，核实证明文件的真实性和有效性，并在GenAI产品采购协议中明确要求提供者对已取得提供GenAI产品所需的合法资质作出陈述与保证以及约定违反该等陈述与保证的赔偿责任。

（2）GenAI产品为闭源产品还是开源产品？
GenAI产品的开源与闭源属性直接影响企业对于GenAI产品的使用权限，尤其是后续是否可以对于GenAI产品进行优化。开源GenAI产品是指将模型的权重、架构以及训练过程向公众开放，允许任何人自由使用、修改和分发的GenAI产品，其优势在于促进技术的快速迭代和创新，降低使用成本，并允许企业根据自身需求通过修改代码、调整模型参数等方式对于GenAI产品进行优化。闭源GenAI产品则是指模型的权重、架构和训练细节不公开，通常由提供者控制并以“模型即服务”的形式提供服务的GenAI产品，其优势在于保护提供者的商业秘密，增强数据安全性和隐私性，使用者通常无法通过修改代码、调整模型参数等方式对GenAI产品进行优化。企业在采购GenAI产品时，应根据自身需求选择开源或闭源GenAI产品。若企业计划对GenAI产品进行优化，开源GenAI产品可能更为合适，但企业在使用开源GenAI产品时仍需遵守开源许可证的相关规定，如在使用和分发优化后的模型时，需保留原模型的版权声明和许可条款；若企业更关注数据安全性和商业秘密保护，闭源GenAI产品则更具优势，但企业需严格按照闭源GenAI产品的使用条款使用GenAI产品，可能无法通过修改模型的代码、参数等方式优化GenAI产品。

TIPS：企业在采购GenAI产品时，应当做好自身需求的测评工作，并结合自身需求选择开源或闭源GenAI产品。

（3）GenAI产品被“投喂”了哪些训练数据？
GenAI产品的训练数据是其生成内容的基础，训练数据的合法合规性直接影响AIGC的合法合规性，进而影响企业后续对于AIGC的使用。根据《生成式人工智能服务管理暂行办法》第7条，生成式人工智能服务提供者使用的训练数据应当来源合法，不得侵犯他人知识产权，不得违法违规使用个人信息，且应采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。企业在采购GenAI产品时，也应基于该等要求，评估GenAI产品的训练数据的合法合规性。一方面，企业应要求提供者披露训练数据的基本信息，包括数据的来源、类型、处理方式等，并核实其是否已取得相关权利人的授权。例如，若训练数据包含受版权保护的文本、图像或音频，提供者需提供著作权人的许可证明；若训练数据涉及个人信息，提供者需证明其已取得个人信息主体的同意，并采取了必要的脱敏措施。另一方面，企业应要求提供者提供GenAI产品训练数据安全评估报告，以核查GenAI产品语料来源、内容以及标注的安全性。

TIPS：企业在采购GenAI产品时，应当评估、核实GenAI产品的训练数据的合法合规性。

3. 采购协议：这些条款看仔细了
   GenAI产品采购协议是确定企业与GenAI产品提供者之间权利义务关系的重要法律文件，企业后续使用GenAI产品以及GenAI产品提供者提供GenAI产品的行为将受到该等采购协议的约束，同时，如任何一方违反采购协议的约定，另一方可以基于采购协议要求违约方承担支付违约金、赔偿损失等违约责任。因此，对于企业而言，如何通过采购协议中陈述保证、权利义务、违约责任等条款的设计保障自身权益、降低潜在法律风险至关重要。为实现前述目的，企业应当确保GenAI产品采购协议中对下述事项予以明确约定：GenAI产品提供者的合法资质、GenAI产品的提供方式、AIGC的权利归属和使用、数据与知识产权保护、企业对于GenAI产品优化。关于具体应该如何设计采购协议的条款，请见《AI开拓者指南：AIGC应用协议——怎么写怎么看》一文“模型产品使用者使用协议”部分。
   weibo.com/ttarticle/p/show?id=2309405144428791857339
   weibo.com/ttarticle/p/show?id=2309405144428737331225
   weibo.com/ttarticle/p/show?id=2309405144428720554502
   weibo.com/ttarticle/p/show?id=2309405144428648988781
   weibo.com/ttarticle/p/show?id=2309405144428615434390
   weibo.com/ttarticle/p/show?id=2309405144428535742494
   weibo.com/ttarticle/p/show?id=2309405144428514770951
   weibo.com/ttarticle/p/show?id=2309405144428460507452
   weibo.com/ttarticle/p/show?id=2309405144428410175613
   weibo.com/ttarticle/p/show?id=2309405144428368232645
   weibo.com/ttarticle/p/show?id=2309405144428317638863
   weibo.com/ttarticle/p/show?id=2309405144428284084229
   weibo.com/ttarticle/p/show?id=2309405144428217237700
   weibo.com/ttarticle/p/show?id=2309405144428196003935
   weibo.com/ttarticle/p/show?id=2309405144428103991361
   weibo.com/ttarticle/p/show?id=2309405144428091146346
   weibo.com/ttarticle/p/show?id=2309405144428028231741
   weibo.com/ttarticle/p/show?id=2309405144427944345655
   weibo.com/ttarticle/p/show?id=2309405144427843682320
   weibo.com/ttarticle/p/show?id=2309405144427739087216
   weibo.com/ttarticle/p/show?id=2309405144427642617967
   weibo.com/ttarticle/p/show?id=2309405144427550343492
   weibo.com/ttarticle/p/show?id=2309405144427445486160
   weibo.com/ttarticle/p/show?id=2309405144427336433793
   weibo.com/ttarticle/p/show?id=2309405144427214798956
   weibo.com/ttarticle/p/show?id=2309405144427122524642
   weibo.com/ttarticle/p/show?id=2309405144427026055396
   weibo.com/ttarticle/p/show?id=2309405144426937974898
   weibo.com/ttarticle/p/show?id=2309405144426841506290
   weibo.com/ttarticle/p/show?id=2309405144426736648708
   weibo.com/ttarticle/p/show?id=2309405144426631790829
   weibo.com/ttarticle/p/show?id=2309405144426560487448
   weibo.com/ttarticle/p/show?id=2309405144426463756304
   weibo.com/ttarticle/p/show?id=2309405144426367287302
   weibo.com/ttarticle/p/show?id=2309405144426258498022
   weibo.com/ttarticle/p/show?id=2309405144426157834926
   weibo.com/ttarticle/p/show?id=2309405144426057171254
   weibo.com/ttarticle/p/show?id=2309405144425964896512
   weibo.com/ttarticle/p/show?id=2309405144425889399382
   weibo.com/ttarticle/p/show?id=2309405144425797124199
   weibo.com/ttarticle/p/show?id=2309405144425704587284
   weibo.com/ttarticle/p/show?id=2309405144425612574807
   weibo.com/ttarticle/p/show?id=2309405144425503260714
   weibo.com/ttarticle/p/show?id=2309405144425411248662
   weibo.com/ttarticle/p/show?id=2309405144425339945348
   weibo.com/ttarticle/p/show?id=2309405144425235087810
   weibo.com/ttarticle/p/show?id=2309405144425109258712
   weibo.com/ttarticle/p/show?id=2309405144424999944294
   weibo.com/ttarticle/p/show?id=2309405144424920252560
   weibo.com/ttarticle/p/show?id=2309405144424803074137
   weibo.com/ttarticle/p/show?id=2309405144517677548062
   weibo.com/ttarticle/p/show?id=2309405144517581078572
   weibo.com/ttarticle/p/show?id=2309405144517484347551
   weibo.com/ttarticle/p/show?id=2309405144517383946680
   weibo.com/ttarticle/p/show?id=2309405144517287477638
   weibo.com/ttarticle/p/show?id=2309405144517178425470
   weibo.com/ttarticle/p/show?id=2309405144517048402644
   weibo.com/ttarticle/p/show?id=2309405144516947738966
   weibo.com/ttarticle/p/show?id=2309405144516855463940
   weibo.com/ttarticle/p/show?id=2309405144516201152751
   weibo.com/ttarticle/p/show?id=2309405144516083712462
   weibo.com/ttarticle/p/show?id=2309405144515987243142
   weibo.com/ttarticle/p/show?id=2309405144515853025330
   weibo.com/ttarticle/p/show?id=2309405144515731390811
   weibo.com/ttarticle/p/show?id=2309405144515634921546
   weibo.com/ttarticle/p/show?id=2309405144515521675514
   weibo.com/ttarticle/p/show?id=2309405144515408429698
   weibo.com/ttarticle/p/show?id=2309405144515311960812
   weibo.com/ttarticle/p/show?id=2309405144515215491078
   weibo.com/ttarticle/p/show?id=2309405144515110634020
   weibo.com/ttarticle/p/show?id=2309405144515039330660
   weibo.com/ttarticle/p/show?id=2309405144514926084880
   weibo.com/ttarticle/p/show?id=2309405144514833809844
   weibo.com/ttarticle/p/show?id=2309405144514758312422
   weibo.com/ttarticle/p/show?id=2309405144514657386587
   weibo.com/ttarticle/p/show?id=2309405144514548597134
   weibo.com/ttarticle/p/show?id=2309405144514439544963
   weibo.com/ttarticle/p/show?id=2309405144514334687518
   weibo.com/ttarticle/p/show?id=2309405144514217246913
   weibo.com/ttarticle/p/show?id=2309405144514120778468
   weibo.com/ttarticle/p/show?id=2309405144514024308798
   weibo.com/ttarticle/p/show?id=2309405144513919451494
   weibo.com/ttarticle/p/show?id=2309405144513814594214
   weibo.com/ttarticle/p/show?id=2309405144513713930591
   weibo.com/ttarticle/p/show?id=2309405144513617461424
   weibo.com/ttarticle/p/show?id=2309405144513533313150
   weibo.com/ttarticle/p/show?id=2309405144513453621551
   weibo.com/ttarticle/p/show?id=2309405144513336443590
   weibo.com/ttarticle/p/show?id=2309405144513223197316
   weibo.com/ttarticle/p/show?id=2309405144513097105618
   weibo.com/ttarticle/p/show?id=2309405144513021870596
   weibo.com/ttarticle/p/show?id=2309405144512925401586
   weibo.com/ttarticle/p/show?id=2309405144512816349826
   weibo.com/ttarticle/p/show?id=2309405144512711491946
   weibo.com/ttarticle/p/show?id=2309405144512598245628
   weibo.com/ttarticle/p/show?id=2309405144512501514277
   weibo.com/ttarticle/p/show?id=2309405144512426279312
   weibo.com/ttarticle/p/show?id=2309405144512325615934
   weibo.com/ttarticle/p/show?id=2309405144512212370196