为生成式AI“立规矩”

作者／ IT时报记者 范昕茹

编辑／ 钱立富 孙妍

每一项科技进步均具备双重效应，随着生成式AI技术的迅猛进步，对其潜在安全风险的忧虑亦相伴而生，这促使相关国家与地区加速推进立法工作，旨在为生成式AI的稳健成长搭建一道坚实的“防线”。

今年六月，欧洲议会以高票通过了《人工智能法案》的草案，这标志着欧洲议会、欧盟各成员国以及欧盟委员会将启动“三方谈判”程序，旨在商定该法案的最终条款。与此同时，美国也在积极研究人工智能监管的相关议题。

目光转向国内领域。在今年的4月份，我国国家互联网信息办公室着手草拟了《生成式人工智能服务管理办法（征求意见稿）》。随后，在7月份，经过修订的《生成式人工智能服务管理暂行办法》（以下简称《办法》）正式发布，并定于2023年8月15日开始实施。此举被视为全球范围内首部针对生成式人工智能的立法。《办法》对生成式人工智能在技术进步与治理机制、服务标准化、监管措施以及法律责任等方面进行了详尽的规定，为我国生成式AI的未来发展方向确立了基础框架。

图源：中国网信网

业界人士普遍观点是，《办法》的颁布使得合规性成为大型模型生产商不可或缺的选择。《办法》实施后，对大模型生产商将产生怎样的影响？《IT时报》的记者向腾讯、阿里云、百度等近十家大型模型生产商进行了咨询，然而，这些企业均未提供积极的反馈。

01 生成式AI有法可依

7月13日，《生成式人工智能服务管理暂行办法》经过修订后正式发布，并定于2023年8月15日开始实施。

通过将三个月前公布的《生成式人工智能服务管理暂行规定（征求意见稿）》与当前版本进行对比，我们可以明显看出，《暂行规定》经历了显著的变化。

《办法》中新增了“兼顾发展与安全、融合创新与法治管理”的理念，提倡采取宽容谨慎的态度，实施分门别类的监管措施，并将原先征求意见稿中的鼓励性条款数量从一条增加至三条。

例如，《办法》不再着重于要求生成式人工智能所创造的内容必须真实无误，而是着重强调提升生成内容的精确度和可信度，并充分考虑了大型模型技术的创新特性。

同时，《办法》对用户必须提供真实身份信息的规定进行了调整，改为“提供生成式人工智能服务的主体需与注册用户签订服务合同，并在此合同中明确双方的权利与责任”，此举进一步拓宽了服务的范围等。

众多行业专家认为，《办法》相较于四月份发布的征求意见稿，在互联网领域取得了显著进展。“这种在法规制定过程中的进步，实属罕见。”汇业律师事务所的律师史宇航指出，《办法》的修订充分采纳了从业者的建议，反映出我国在促进生成式AI发展方面的坚定决心。

然而，《办法》并未对行业关注的诸多问题作出全面阐释。史宇航强调，对于如何判断数据来源的合法性、如何诠释不得侵犯他人依法享有的知识产权等问题，《办法》并未提供详尽的说明，相关内容需在后续的司法和执法活动中逐步探索，并通过具体案例来确立指导原则。尽管如此，在史宇航眼中，《办法》的颁布至少为国内生成式AI企业提供了遵循的法律依据。

02 合规成为“必选项”

《办法》的出台，对于大模型厂商而言，将带来哪些实际影响？

史宇航认为，《办法》的颁布标志着技术不再是推动大模型厂商成长的唯一动力，合规性同样对企业的发展节奏产生显著影响。合规水平的高低将直接决定生成式AI的产品和服务能够达到何种发展深度。

《办法》的最新版本中，第十七条明确规定，对于具备舆论影响或社会动员功能的生成式人工智能服务，必须依照国家相关法规进行安全审核，并且依照《互联网信息服务算法推荐管理规定》执行算法备案、变更及注销备案的相关程序。换言之，若面向公众的生成式AI想要投入实际应用，绝大多数情形下，必须先完成备案和安全评估的流程。

图源：东方IC

史宇航指出，企业需在项目启动之初便着手关注合规事宜。这是因为生成式AI的合规流程极为复杂，从项目启动、研发、测试、发布、更新到最终下架，每个阶段都包含众多合规控制要点，以及众多备案和申请环节。这些环节涉及众多领域的法律法规。特别是在备案环节，企业必须就生成式AI的各个流程提供相应的合规证明。该大型模型初创公司的一名员工透露，他们目前正在深入探讨《办法》的相关内容，并且正将其理念巧妙地整合到自家产品的开发设计中。

在企业内部具体而言，合规性所引发的变革并非仅仅停留在理论之上，而是深入到企业的各个领域。史宇航认为，合规性的实施必然会引起企业根本机制和内容的变动。这包括企业内部体系的革新、岗位的重新设定，以及组织结构的构建；同时，从产品的设计、测试到研发的布局，每一个环节都必须按照合规标准进行相应的调整。史宇航指出，公司的流程体系必须完善，务必不能仅仅局限于对技术研发资金的考量。

对于某些企业来说，遵循规定可能会引发新的挑战。合规化过程本身需要一定的资金投入，对于那些资金并不宽裕的公司来说，它们需要在研发与合规之间做出选择。史宇航指出：“这或许会影响到企业研发的进展。”

03 落地执行面临挑战

对于众多大型模型制造商来说，遵守规定是他们最为关注的议题，然而，目前要将新的规定付诸实践，仍面临着诸多挑战。

林晖（化名）最近就接到了几家公司的合规方案订单。

新规出台后，面对客户的强烈需求，林晖及其团队不得不着手对新规进行深入分析，并据此为客户量身定制符合规定的个性化解决方案。

林晖向记者透露，指导意见并非是既定的标准答案。他强调，当前厂商在遵循规定的过程中面临的最大挑战是缺少详尽的应用场景规定。《办法》虽已构建起基本框架，但仍旧是一种指导性建议，不能全面覆盖所有应用场景。企业需要依据自身的应用场景，自行探索具体的界限和标准。林晖指出，这种情况颇为复杂，譬如依照《办法》你设定了十条符合规定的条款，可若超出这些条款的部分出现问题，是否会被视为违规行为呢？

生成式AI的合规性不仅牵涉到法律条文，还需考虑技术实施细节，这无疑增加了合规计划实施的复杂性。林晖认为，若要依据现行法律制定出恰当的合规策略，制定者必须具备法律知识、安全意识和技术架构理解，并且对公安、网络安全、网信、金融等领域的监管规定有深刻理解。唯有做到这一点，才能根据监管机构的常规做法来设计合规方案。“即便如此，也不能保证制定的合规方案是正确的。”林晖说。

在实际操作层面，一个符合规定的方案通常涵盖产品合规性、业务调整以及隐私条款的详细说明等多个方面，其定制化特点十分显著，往往需要针对每家企业制定个性化的解决方案。

备案阶段同样存在一些不明确的区域。史宇航指出，鉴于算法本身的复杂性难以用语言准确描述，企业在备案时需自行探索界定算法及其安全性能的界限。此外，在合规性审查方面，通常采用企业自我证明的方式，企业还需根据自身具体情况准备相关材料。他强调：“目前尚无统一的标准，企业仍需自行探索。”

今年六月份，我国国家互联网信息办公室公布了一则《关于发布深度合成服务算法备案信息的公告》，其中列出了41个经过备案的生成式人工智能算法，涵盖了钉钉的智能客服算法、阿里巴巴达摩院的开放域自然对话合成算法、百度的文生图内容生成算法、腾讯会议的虚拟背景算法以及科大讯飞的语音识别算法等多种算法。

然而，多数大型模型供应商对于备案及合规事宜仍保持沉默。《IT时报》的记者试图联系腾讯、阿里云、百度等近十家主要模型供应商，却未获得任何积极的反馈。即便某些厂商已经完成了备案手续，他们仍表示，在报备流程和其它相关环节仍处于一个难以言明的阶段，因此无法提供正面回答。

排版／ 季嘉颖

图片／ 中国网信网 东方IC

来源／《IT时报》公众号