随着ChatGPT的爆火引起了全世界对于生成式人工智能的关注，人工智能领域获得了新的发展，也让更多的人工智能应用出现在人们的生活当中。但在这其中，越来越多的人也意识到生成式人工智能中所存在的风险，包括可能产生的违法与偏见内容、人工智能生成物的知识产权争议以及数据与网络安全的漏洞。对于生成式人工智能存在的这些风险，应当提前加以防范，争取在最大程度上发挥生成式人工智能的技术效能，并减少这一新兴技术对社会发展造成的负面冲击。

生成式人工智能、数据安全、知识产权、人工智能合规

一、前言

自OpenAI研发的人工智能应用ChatGPT（Chat Generative Transformer）于2022年11月30日问世以来，一经推出便掀起了全球对人工智能的新一轮瞩目。在短短两个月内，ChatGPT便以一亿的月活流量刷新了记录，打破了此前由TikTok保持的九个月之久的纪录。

2023年3月15日凌晨，OpenAI再次给世界带来震撼，发布了性能大幅提升的ChatGPT GPT-4版本，这个更新让全球再度为之惊艳。同时，微软也宣布发布了基于GPT4模型的新一代搜索引擎New Bing，并透露正在将这项先进的人工智能技术融入其办公软件套件中，这项功能被命名为Microsoft 365 Copilot。

就在这种全球范围内的大模型竞争中，谷歌也毫不示弱，陆续开发了以PaLM 2（Pathways Language Model 2）为首的多款人工智能大模型，全力追赶。在国内，百度同样不甘后人，于三月份发布了大模型“文心一言”，全力参与到这场“大模型战争”中。至七月份，据统计，国内正在进行大模型开发的企业已超过一百家，这场“大模型战争”可谓激烈异常。

与人工智能技术和市场的澎湃发展同步，有关人工智能的争议、纠纷以及政府层面的应对措施，在年初也层出不穷。2023年3月29日，近900位科技界知名人士，包括特斯拉创始人马斯克在内，联名签署了一封公开信。他们呼吁全球领先的人工智能实验室暂停开发六个月，原因在于，最新的人工智能进展对人类社会可能带来潜在威胁。3月31日，意大利个人数据保护局宣布，将暂停使用ChatGPT，并针对其涉嫌违反数据收集规则展开调查，同时限制OpenAI处理意大利用户数据。

5月17日，OpenAI的首席执行官山姆·奥特曼（Sam Altman）在美国国会参议院商务委员会的听证会上，为ChatGPT的功能、影响和限制进行了详尽解释与坚定辩护。这是自ChatGPT于2022年11月公开以来，首次受到政府的正式审查。

6月14日，欧洲议会以499票赞成、28票反对和93票弃权的压倒性结果，通过了《人工智能法案》（AI Act）草案，一旦通过立法，这将成为全球首个关于人工智能的法案。

而我国也在2023年4月11日发布了《生成式人工智能服务管理办法（征求意见稿）》，并在广泛征求社会各界意见后，于2023年7月13日由网信办等七部委联合发布了《生成式人工智能服务管理暂行办法》（简称《暂行办法》）。本文将在接下来的内容，我们将结合《暂行办法》中的相关规定，针对人工智能应用中可能出现的法律风险进行详细解读，并提出相应的合规建议。

二、生成式人工智能的内容生成风险

（一）内容生成风险概述

生成式人工智能，特别是以GPT-4为代表的先进模型，自诞生之初就以其通用文本生成能力引人注目，能够根据使用者的需求进行问答互动、文本生成、文本整理和分析等多样化任务。然而，随着时间推移和应用的深入，人们逐渐发现生成式人工智能在内容生成方面存在一些问题和挑战。

首先，由于许多人工智能模型的预训练数据源自互联网，它们可能从这些数据中学习和复制人类的偏见和先入为主的观点，这可能导致不公平的结果，如某些AI招聘系统可能因预训练数据的内在偏见而对某些社会群体产生歧视。

其次，人工智能模型可能无意中生成有害或误导性的信息。虽然这一生成过程本无恶意，但如果被用于传播错误的医疗建议、假新闻等，可能会对公众健康和社会稳定产生严重后果，例如，ChatGPT如被恶意用户用于欺诈邮件或散布有害言论，将可能导致社会的负面影响。

再者，模型的复杂结构和对训练数据的高度依赖使得处理敏感信息时如何确保隐私不被侵犯、模型的决策如何更加透明和可解释等问题引起广泛关注。

生成式人工智能模型的学习能力严重依赖其训练数据，若数据包括错误、虚假信息或覆盖不全、存在偏见，则模型很可能学习并重复这些问题。这些模型在生成内容时仅基于已学习的信息，而无法接入实时、外部的信息源进行事实验证，从而可能导致错误信息的传播。尽管现有的生成式人工智能模型相当先进，但它们仍然无法完全捕捉或复制人类语言的微妙之处，如语境的变化、多义词的处理等，可能导致误解或错误。这些模型不具备人类的经验知识，如物理世界的运作、社会和文化规则等，可能在处理需要这些知识的问题时出现错误。生成式人工智能模型通常以局部视角生成文本，可能在长文本中出现立场反复、信息矛盾等问题。

面对以上问题，一方面需要从技术上进行解决，例如引入知识图谱技术，加强训练监管以及人工智能模型的更新迭代。但这并不能完全避免这类问题的发生。因此根据其中的技术原理进行针对性的监管并且由生成式人工智能应用的提供者实施合规策略便显得尤为重要。

（二）相关规范与合规措施

近期颁布的《暂行办法》中对于生成式人工智能的生成内容作出了明确规定，在这一重要法规中，第四条成为了关键规定，其以结果为导向的原则，以全面和深入的方式对生成式人工智能的内容限制进行了界定。一方面，该条第一款明确了禁止生成的内容范围，包括了许多社会上极为关注和敏感的问题。其中涉及煽动颠覆国家政权、攻击社会主义制度、损害国家安全和利益、破坏国家形象等。此外，还包括了煽动分裂国家、破坏国家统一和社会稳定、宣扬恐怖主义和极端主义、宣扬民族仇恨和歧视、暴力、淫秽色情和虚假有害信息等。

另一方面，该条第二款从预防角度要求生成式人工智能的提供者在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。

此外，在确保内容规范的基础上，第五款对生成式人工智能生成内容的准确性和可靠性也作出了原则性规定。

《暂行办法》同时还在针对违法内容的处理作出了规定，第十四条规定，对生成式人工智能所生成的违法内容的处理措施包括停止生成、停止传输、消除，同时该条第二款还要求生成式人工智能服务的提供者应当及时采取处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

综上，生成式人工智能应用提供者为了避免违反上述规定并可能导致的利益受损，需要采取一系列措施。一方面应当对生成式人工智能使用中出现的错误和违法信息设计预警制度，及时发现问题并采取对应措施，避免错误和违法信息的危害扩大；另一方面积极履行生成内容标识义务，通过应用中的提示和用户协议等方式警示和提醒用户，确保使用者明确知晓该内容是由生成式人工智能所生成，保证使用者不被误导。在特殊情况下，可能还需要获取使用者的同意，才能由生成式人工智能生成相关内容。

三、生成式人工智能的知识产权风险

（一）知识产权风险概述

针对生成式人工智能的知识产权问题，分别在训练数据与生成物两个方便存在风险。对于前者，《暂行办法》第七条第三款作了规定，要求生成式人工智能服务提供者开展预训练、优化训练等训练数据处理活动时，不得侵害他人依法享有的知识产权。对于这一方面，虽然在社会中出现了相关纠纷，但并无进行规范的困难，因此本文不在此赘述。本文将主要论述人工智能生成物这一知识产权法领域长期存在争议的问题，结合近几年的立法推进和司法实践进行讨论。

生成型人工智能在数据处理和分析能力方面的显著提升，在自动化内容编撰、智能润色、多模态转换和创造性生成等方面对传统著作权观念产生了强烈的冲击。目前，亚马逊网站上已经有200多本由ChatGPT署名的新书，甚至为ChatGPT创建了专栏；国内也出现了将人工智能生成的画作申请著作权或拍卖交易的情况。

但与现实中大量人工智能生成物作品大量出现并流通的情况相对比，目前无论是学术界还是司法实践中，都没有形成明确的主流观点。人工智能生成内容是否受知识产权保护，理论界存在“肯定说”与“否定说”两种不同意见。人工智能生成内容是否受知识产权保护的问题，在现今法律和伦理框架中仍然是一个争论焦点。

“肯定说”认为，人工智能生成的内容是一种创造性劳动的产物，应当受到知识产权保护。这一观点强调，虽然是由机器创造，但背后仍然有人类的设计和编程工作，因此有权利获得相应的保护。“否定说”则持相反意见，主张人工智能生成的内容缺乏人类的创造性和独特性，不具有智力财产的属性，无法成为知识产权的客体，不应受到知识产权保护，应当归属于公有领域。此外，还有一些中间立场的观点，强调人工智能生成内容的保护应当因情况而异，如考虑到背后的设计、目的、使用方式等因素，可能需要建立一个全新的保护体系或者调整现有法律。

在这些分歧中，最重要的分歧点在于人工智能生成内容是否具备“独创性”，是否属于人类的智力成果。虽然生成式人工智能的创作中蕴含了自然人的创作因素（思想、情感），在一定程度上更符合作品构成要件的要求，但生成式人工智能生成内容的模式主要是挖掘人类日常交流的文本，并进行统计分析，甚至在对已有的数据库进行爬取后组合，在这些基础上得出全新的作品。基于这一逻辑，目前国内对这一问题的主要观点认为人工智能生成的内容更类似于工具或辅助工具，可以帮助公众自动生成一些文本，但其并不算是创意作品或原创作品。而在国际上，对于这一问题，态度则较为激进，国际保护知识产权协会（AIPPI）在2019年发布的《人工智能生成物的版权问题决议》提出，人工智能生成物在其生成过程中有人类干预且该生成物符合受保护作品应满足的其他条件情况下，能够获得版权保护，而对于生成过程无人类干预的人工智能生成物无法获得版权保护。部分承认了人工智能生成物的知识产权属性。

总之，笔者主张生成型人工智能在执行过程中与人类意识互动，并且其算法内涵着与人工标准相伴随的个人意图，且具备一定的可理解性，因此它所产生的内容带有创新和独创性，符合著作权法中对于独创性的规定。但如何改进和发展传统的知识产权体系，以便它能适应生成型人工智能的进展，仍然是一个需要不断关注和深思的议题。

（二）重塑知识产权保护体系

对于生成式人工智能中存在的知识产权风险，一方面需要生成式人工智能服务的提供者加强合规措施，尤其是需要通过用户协议明确人工智能生成物的权属，例如OpenAI在其用户协议中的共享和出版政策部分就明确说明由使用者所发布的通过GPT所生成的内容，属于使用者个人或公司，且对于部分使用GPT所生成的内容，且经过使用者根据自己的喜好审查、编辑和修订了语言并最终出版，依然需对出版物的内容承担最终责任。另一方面，针对生成内容与已有作品存在实质性相似的情况，生成内容可能涉及知识产权侵权。生成式人工智能服务的提供者，应当履行《中华人民共和国民法典》第1195条规定的“通知-删除”义务，否则可能因违反相应的注意义务而需承担共同侵权的责任。

而在这之外，更重要的是在更宏观的层面对传统的知识产权保护体系进行重塑，根据已有经验并结合生成式人工智能的技术原理，制定具有针对性的保护体系。

首先，生成式人工智能知识产权合规保护体系的关键是其可解释内容，包括算法和派生的具体内容。通过将保护重点集中在ChatGPT的核心价值领域，不仅可以突显了其生产能力的重要性，还为整个体系的稳健性和可靠性提供了基础。保护可解释内容的重要性不仅反映在技术层面，还涉及商业利益和知识产权的道德法规，以确保生成式人工智能作为一个复杂的智能系统能够在符合法规的前提下最大化其效益。

其次，生成式人工智能的保护职责涵盖了基本和专门两大方向。基本保护任务着眼于知识产权保护的一般措施，为生成式人工智能的整体安全提供保障。专门保护任务则深入到技术层面，针对生成式人工智能的独特技术特性进行定制保护。这不仅需要了解和掌握生成式人工智能的工作原理和技术特点，还需构建一个可根据人工智能的发展趋势和潜在风险来灵活调整的管理体系。这些管理措施包括对不同类型人工智能技术模式的分级差异化管理要素。

再次，全流程保护是确保生成式人工智能知识产权安全的另一关键环节。从前期的基础数据选择到后期内容生成的每一个阶段，都必须严格遵循知识产权法规。全过程审查不仅可以发现并修补潜在的漏洞，还可以确保生成式人工智能与法规保持一致，从而为用户提供的服务。这一过程需要强调，即使在初步阶段，对于基础数据的选择以及知识产权的保护也是不可或缺的环节。

最后，数字版权管理技术（DRM）的引入为生成式人工智能的知识产权保护带来了新的可能。DRM通过密码技术和数字水印等复杂手段来控制对可解释算法的访问。这一技术不仅能够防止非法访问和滥用，还可以在侵权行为发生时迅速采取措施。例如，当网络空间出现侵权内容时，保护机构可以迅速删除侵权信息、切断侵权链接，以防止侵权内容扩散。DRM技术为生成式人工智能提供了一种技术手段，可实现知识产权的全方位保护，为整个生态系统提供了强有力的支持。

总的来说，生成式人工智能的知识产权保护体系是一个复杂而全面的系统。它需要通过明确保护对象、细化保护任务、全流程监管和引入先进保护技术等手段来实现。在不断发展和变化的技术环境中，保护体系需要具有灵活性和适应性，以便随时应对新的挑战和机遇。通过综合运用上述策略，生成式人工智能不仅可以确保其知识产权得到充分保护，还可以为其长期稳健发展提供坚实基础。

四、生成式人工智能中的数据安全风险

（一）知识产权风险概述

数据训练是生成式人工智能技术存在的基础，是生成式人工智能应用的底层逻辑核心，数据是生成式人工智能最底层的“原料”，可以说是构建这一复杂系统的基石。而对于这些“原料”的使用，即数据训练，则相当于建筑的设计和施工过程。因此，数据训练风险防范是满足生成内容与知识产权等风险防范要素的重要前提。另一方面，生成式人工智能必须在基础的准备阶段就调试好自身对数据的利用模式和保护方式，根据数据类型的差异进行区分对待，从而通过对数据的学习来提炼信息、预测趋势，因此数据安全风险是生成式人工智能的第一大风险。

针对生成人工智能的训练数据这一重要部分，《暂行办法》也做了细致的规定，第七条规定了生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型并采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。因此，在数据训练环节，生成式人工智能服务提供方首先应当确保训练数据来源的合法性，尤其应当关注训练数据中是否包含需要另行取得许可或授权的知识产权或个人信息等数据。

此外，《暂行办法》第十九条第一款也规定了生成式人工智能服务提供者应当配合主管部门的监督检查，对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。

总之，数据训练在生成式人工智能中的作用至关重要，涉及的问题既复杂又关键。从合规性到安全性，都要求生成式人工智能服务提供者必须严格遵循相关法规，并对数据的处理、保护和使用采取负责任的态度，依照《暂行办法》等相关规定，做好前置性的预防工作。

五、结语

生成式人工智能技术作为当今技术发展的重要趋势，拥有广阔的应用前景和无可估量的潜力。无论是在创意产业、科学研究还是商业智能等方面，它都展示了令人惊叹的创造力和效率。然而，随着生成式人工智能的发展与应用，虽然当前很多附随的社会影响并不明显， 却有可能在未来的生成阶段产生后续影响，必须对进行前瞻性预防。

本文分别从三个方面阐述了提供生成式人工智能服务中存在的风险以及相对应的建议。在内容生成方面，虽然生成式人工智能带来了创造性的工具，但同时也可能诱发虚假信息的传播和滥用。知识产权方面，明确智能系统与人类创作者的权益之间的界限，也是当前的一项重要挑战。而数据安全方面的风险更是涉及到个人隐私和企业机密信息的保护。

鉴于上述分析，未来的合规措施必须要全面而审慎地应对这些挑战。首先，需要建立一套完善的法律框架，以明确生成式人工智能系统在内容生成、知识产权和数据安全方面的责任与义务。此外，监管机构、研究人员和产业界也应共同合作，以推动技术、伦理和法规之间的平衡发展。同时，企业和开发者也应更加注重道德和安全设计，确保新技术不仅推动创新，还能在符合法律和道德规范的前提下使用。

总而言之，生成式人工智能虽带来了无可估量的机遇，但与此同时也带来了一系列需要认真对待的风险。只有通过全面的措施和多方的合作，我们才能确保这一领域的可持续和负责任的发展。这将是所有参与者共同的责任，也是我们走向更美好未来的关键一步。