2023年4月11日，国家网信办发布了《生成式人工智能服务管理办法》（征求意见稿），针对目前爆火的生成式人工智能（国外的ChatGPT、GPT-4、Bard、Claude，国内的文心一言、通义千问、盘古等等）提出了一些监管方面的要求。
下面我们就看看各个语言模型是如何评价这份征求意见稿的。
提示词
下面是一个关于《生成式人工智能服务管理办法》，请你对该办法进行一个客观、完整的评价
ChatGPT
该《生成式人工智能服务管理办法》旨在促进生成式人工智能的健康发展和规范应用，遵守法律法规，尊重社会公德、公序良俗，以保护公民的合法权益为出发点。本办法规定了以下几个方面：
- 适用范围：本办法适用于研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的情况。
- 定义：本办法定义了“生成式人工智能”是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
- 技术创新和国际合作：本办法支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，并鼓励采用安全可信的软件、工具、计算和数据资源。
- 服务内容要求：提供生成式人工智能产品或服务应当遵守法律法规要求，符合社会主义核心价值观，不得含有违反国家法律法规的内容，防止歧视、不公平竞争等不当行为，同时也应当保证生成内容的真实准确。
- 责任与义务：提供生成式人工智能产品服务的组织和个人需要承担法律责任，包括个人信息保护责任等。
- 安全评估与备案：利用生成式人工智能产品向公众提供服务前，应当按照相关规定向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
- 数据来源要求：提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责，这些数据应当符合法律法规的要求，不侵犯知识产权，获取个人信息时应当征得个人信息主体同意等。
总体而言，该《生成式人工智能服务管理办法》是一份非常重要的法规文件，旨在规范生成式人工智能的使用和发展，促进其健康发展，保护公民的合法权益。它的出台为我国的人工智能产业发展提供了重要的法律支持，也为广大使用者提供了更加规范和有保障的使用环境。
Claude+
对该《生成式人工智能服务管理办法》的评价如下:
- 立意上体现了规范和引导产业发展的正面作用。该办法目的是促进生成式人工智能的健康发展和规范应用,这是正面的立意。通过制定服务标准和要求,可以对产业发展起到引导作用,帮助企业规范运营。
- 内容上比较全面和系统。该办法对数据、算法、训练、服务、监测等方面都提出了具体要求,比较全面。同时,各条款之间也有一定的系统性。这有利于给企业提供全面和规范的遵循标准。
- 有利于保护用户权益。该办法提出了保护用户隐私、防止生成有害内容、听取用户反馈等要求,这有利于保护广大用户的合法权益。
- 执行难度较大。该办法涉及的要求比较理想,但在实际执行中难度会比较大,如数据判断标准不统一,技术手段追踪难度大等,这可能会对企业产生一定的负担。监管部门在监督检查时也需要有一定的技术支持。
- 存在一定的不确定性。人工智能技术发展速度很快,该办法在制定时能考虑的技术状况和问题可能在实施时已经发生变化,这可能会引入一定的不确定性,需要持续监测调整。
综上,该《生成式人工智能服务管理办法》立意上比较积极,内容较为全面系统,有利于规范产业发展和保护用户权益。但实施难度大,存在一定的不确定性,需要在实施中持续改进完善。总体来说,这是一份比较积极和规范的管理办法。
Claude
关于《生成式人工智能服务管理办法》(征求意见稿),我的评价如下:
- 这份办法着眼于规范和管理基于算法、模型生成文本、图片、声音等内容的生成式人工智能服务,填补了该领域的法律空白,具有一定的积极意义。
- 该办法提出了一系列管理要求,如履行安全评估和算法备案程序,保障数据和用户信息安全,防止生成具有违法和不良内容,建立用户投诉机制等。这些要求基本符合当前人工智能发展趋势和管理需求,有利于推动行业健康发展。
- 但是,该办法在许多方面存在过于笼统和原则性的表述,具体操作性和可执行性不高。如第四条提出的各项要求,实施过程中可能难以操作和判断。第七条数据要求也比较原则,无法操之具体。这可能给行业的遵循和监管带来一定困难。
- 该办法虽然提到要求算法、模型的开发者、服务提供者承担 Generation responsibility,但在法律责任方面规定不太明确,如何界定和认定责任,如何实现举证倒置等,都需要进一步明确和完善。
- 该办法未明确人工智能产品现阶段存在的一定局限性,如算法偏差、模型不稳定等技术问题,可能给产品合规性判断带来一定困难。相关技术标准、测试手段也需加强研究。
- 该办法涉及多个部门的联动,如网信部门、市场监管部门、标准化部门等,在实施过程中部门职责、协作机制需要更加清晰,否则可能造成监管重叠或真空。
所以,总体而言,这份办法虽有积极意义,但还需在许多方面进一步完善和细化,才能真正发挥其管理和规范作用。参与方应在实践过程中不断总结经验,及时修订和提高这份办法。
GPT-4
注：由于选择的免费接口，生成内容不全
《生成式人工智能服务管理办法》旨在促进生成式人工智能的健康发展和规范应用。该办法明确了生成式人工智能的定义，并规定了对其研发、利用和提供服务的法律责任。该办法强调了遵守法律法规、尊重社会公德、公序良俗和保护个人信息等方面的要求。
此外，该办法还规定了提供者在研发、提供服务过程中应当遵循的原则，包括防止歧视、尊重知识产权、保证内容真实准确、保护用户隐私等方面。同时，该办法要求提供者在提供生成式人工智能产品和服务前，需按照相关规定向国家网信部门申报安全评估和履行算法备案等手续。
该办法还对预训练和优化训练数据的来源、合法性和质量提出了明确要求，强调了数据真实性、准确性、客观性和多样性的重要性。
在用户方面，该办法规定提供者应当明确并公开服务适用人群、场合和用途，防范用户过分依赖或沉迷生成内容。同时，要求提供者保护用户输入信息和使用记录，不得非法留存或向他人提供用户信息。此外，提供者还需建立用户投诉接收处理机制，对侵犯他人权益的内容及时采取措施予以整改。
在内容生成方面，该办法要求提供者对生成内容进行质量控制，发现不符合本办法要求的内容时，应采取过滤等措施，并在3个月内优化模型以防止再次生成类似内容。
提供者还需要根据国家网信部门和有关主管部门的要求，向用户提供必要信息，如预训练和优化训练数据的来源、规模、类型、质量等，以
new bing
《生成式人工智能服务管理办法》是为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定的管理办法。该办法主要规定了生成式人工智能产品的研发、利用、提供服务等方面的要求，以及提供者应当遵守的法律法规要求，如不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息等内容。同时，提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。
通过上述结果的对比，可以大致得到如下结论：
- GPT-4已经生成内容的完整性和准确性应该是最高的，但由于调用次数有限，缺少最后的结论部分
- Claude与Claude+的结果类似，而且在我看来是比较惊艳的，结果中包含了对事情评价的两个方面——优缺点，内容相对准确
- ChatGPT相当于是对原文内容的总结，大部分都是安全的话术
- new bing的结果就类似摘要了，可能选择根据创造性的话会好一些
更多内容，欢迎关注算法工程笔记公众号。
