在大数据时代和生成式人工智能正迅速发展的背景下，作为法学领域的知名专家，许娟教授治理于法治、法律的数字化探索，推动法治与新兴技术尤其是生成式人工智能的结合与平衡。

从传统法学走向学科交叉特别是和理科的结合本身就需要极大的勇气，许娟教授坚持系统研究基本理论问题，并反思传统法律理念，提出复合权利与权能扩展理论。这一理论具有极高的创新性，为传统法学拓展到数字法学奠定了坚实的理论基础。

本次对话以“生成式人工智能的法治新模式”为主题，与许娟教授展开深度探讨。

生成式人工智能与法制

您对生成式人工智能与法治之间的关系有什么看法？

许娟教授：生成式人工智能与法治是相辅相成的。生成式人工智能具有超凡的语言能力，已经在许多领域发挥了重要作用，如医疗、教育和司法等。可以说，生成式人工智能是未来计算机领域乃至全领域发展的一个起点。但是由于生成式人工智能的复杂性与应用难度，实际操作过程具有很多需要考虑的问题，就法治板块的应用而言，生成式人工智能可以被应用在法律知识的生产和推广，促进法律体系与科技发展同步。

但这一过程也是有双面性的，虽然生成式人工智能在处理很多工作时具有优势，但是在面对复杂问题时仍存在挑战，所以我们更应该关注到生成式人工智能如何与法治对齐，在发挥其效用时也关注到道德、伦理等问题，确保新兴技术在法治上能发挥积极作用，以技术作为后续法治研究的起点，同时也要制定法律法规保障技术的发展，做到法律以技术推进，技术有法可依。

目前生成式人工智能在法治板块的应用层面，您的研究思路是什么呢？

许娟教授：我目前研究的核心是三经九纬法治新模式框架。那我首先来介绍一下三经九纬的具体含义。三经包括宏观上的立法知识背景，下分人工智能基础、应用、风险评估三个纬度；微观上的立法现状事实，分为数据、算法、算力三个纬度；第三经为立法规范，包括目的、原则、规则三个纬度。

生成式人工智能是多模态的，模仿人脑的思维，提升了泛化能力。法律AI现有的一个应用场景就主要是在于就是在一些普通的小额诉讼和在法律文本归类上，为企业提供一些智能法务，法律智能问答，智能法律助手和智能律师，主要可以通过人机交互的模拟场景来展现。IBM也开发了一个医疗金融法律多领域的智能问答系统。还有一些小型的机器人在某一些法律预测领域里面的司法审判的预测和一些对于金融领域财务报表合规性的风险预测预警系统。这些都属于微观层面上的应用。关于风险评估首先我们需要设定风险评级品类，实际上现存已经有了许多的风险评估标准和类型化标准，但是风险评级品类与风险发生可能性是不同的，风险评估是一个复合的过程。

生成式人工智能作为人工智能的一种，具有与人工智能同样的三要素：数据、算法和算力。数据是基础，高质量的大量数据，没有庞大的数据量，纵使数据算力系统再强大，也是巧妇难为无米之炊。数据的三法三条例中也规定了数据的质量标准，包括可识别性、安全性、敏感性等等。算法是数据产生价值与重构的方式，算法最重要的其实就是透明度，而透明度它不仅是一个计算机问题，更是一个政治问题和法律问题，算法不透明会导致什么后果呢？给大家举一个很普遍的例子，就是杀熟，算法识别了老用户，在价格上采取了不同的展示方式，这种现象相信大家或多或少听闻过，这就是算法不透明带来的不公平与人权挑战。算力更多是体现了公司的技术硬实力，是数据通过算法转化出价值的一个驱动力。

我们的立法应该针对目前出现的难点。法律不仅要体现安全的价值目标，还需要体现对个体权益的尊重，让大家可以自主选择使用哪一个平台，这是需要法律和国家来规制的，也是法律的目标之一。法律最开始是由伦理演化而来的，法治其实是一个容忍性的治理之术，法律不是不容忍坏的潜在存在，而是不容忍坏的显性激发，是一种底线标准。生成式AI它其实不能算作“生成式”，因为它没有实际创造新的知识与内容，它更应该被定义为“辅助型”AI。我们的法律应该去规范这一技术的应用，当然这指的不是技术本身的低端技术问题。

生成式人工智能下法制新模式

您认为生成式人工智能的法治新模式会对现有的法治模式做出什么样的改变呢？

许娟教授：现在人工智能立法建设主要有三个途径，包括法律可用+改进型立法、社会回应+探索型立法、技术转化+融合型立法。第一个就是改进型立法。其实技术改进法治这一现象是一直存在的，比如说如果没有互联网的出现，个人信息保护法就不会产生。新技术的出现必然给法律带来新的挑战和机遇，我也列出了12个可以借由新技术来改善的法律，包括法律权利制度、法律义务制度、产权法律制度、法律治理制度、法律程序制度、法律责任制度、法律裁量制度、法律监督制度、风险法律制度、证据法律制度、法律权力制度、政法传统制度。当然技术不可能完全颠覆法律，不可能建立新的法律体系来代替现有的法律体系，更多的是在改进和完善层面可做的一些工作。从数据、算法、算力三个角度上思考现有法律改进的方向。

第二个探索性立法。法律应当具有社会互动性，对社会场景有所回应，并且是技术转化实验改进社会回应。比如说在残障人问题上，城市规划需要为其提供一些有意义的数字服务，展示尊重差异和多元观点的态度。我们应该以法治来激励拓展人类知识和能力，用一些功能化的设计考虑不同人群的重点需求，利用技术来推进、法规来引导，使得功能落地。

第三个融合型立法。这里其实主要应对的是错误信息的问题，比如输入输出不准确、虚假信息等。基于这个问题，可以划分为两个步骤，第一是区分可训练的一般法律思维和不可训练的决策性法律思维。比如有些法律语言是机器可以表达的与解读的，但是有一些术语是机器难以识别的。第二是转化对于机器难以识别的语言，这类结构性的语言能力是需要实验改进的，但是要注意即使经过了语言训练，也很难保证机器能做出一个负责任的判断。法律的理解不是一个机器化的过程，它是输入到人的生命力的一个动态的一个注入到具体场景下的每一个具体问题的。

关于生成式人工智能产品的风险——比如制造虚假信息、侵害他人权利等，您注意到有哪些具体的举措吗？

许娟教授：我觉得这个问题其实比较老生常谈的一个回答就是技术要优化。提高算法的准确性和可信度，泛化能力模型的透明度和可揭示性。还有就是风险的防控举措，对产品制定内容审查步骤。还有道德伦理的伦理委员会的联合监管以及提高素质素养等等，就举措而言是很多的。

生成式人工智能的应用可能对就业市场和劳动力需求产生影响。如何通过法律手段来应对可能出现的社会和经济问题？

许娟教授：这个问题让我想到一个比较有趣的现象，最近大模型条款火了，我看到一些法学家都发了很多相关看法，其中涉及到《个人信息保护法》第五十八条规定的大型平台个人信息处理义务规范的一个概括，它们被称为守门人条款。那这个条款跟市场就业有什么关系呢？其实可以这么理解，比如说大模型的开发者通常是数字技术的守门人，他拥有极大的市场支配力量。那么这个支配力量其实就能够产生市场效益。一个好的平台履行了很多的义务，相对来说，平台的守门人就有一定应对这个社会和经济问题的手段。我们之前也谈到了生成式人工智能只是一个辅助性工具，它不能代替人的大脑来进行思考。加上大平台守门人的存在，人是不可能被踢出就业市场外的。我始终是强调人与人高贵的灵魂，从根源上解决就业压力的办法只有不断进步，实现素养的提升，人要追上社会发展的步伐，因为社会的行进是客观和必须的，法律更不可能做倒行逆施的事情。所以这其实不是技术的问题。

寄语

您对大家有什么其他想说的吗？

许娟教授：我们今天在一个逆全球化，反全球化和狭隘的民族主义极端思潮的一个时代，挑起冷战思维，东西方文明对抗。在一些国家和地区追捧国际局势。扑朔迷离的情况之下，全球共识是不可能的，我们作为一个学者，应该保持一个清醒的头脑。比如说殷海光，他曾经说过，知识分子是一个时代的眼睛。知识分子这个眼睛不应当、也不能被这个时代各种浊流所遮蔽。历史上对于国际秩序的一个思考和建构，往往就是在国际局势晦暗不明的时候发生的。

国际组织和论坛制定公认的适用于所有参与方的标准，在标准中体现了国际社会正慢慢把AI伦理区分成不同的程度，不同的类型，不同的标准。在不同产业中寻找共识，当然在一些产业中共识是较难达成的，科学家介入，跨国公司率先垂范，共同去合理引导、有效支持发展一个长远的、有利于增进全人类福祉的一个道义责任，去引导和推动各国尽快的实现AI伦理的全球建构计划。我们今天面临的一个最大问题就是狭隘，法治文明是一个高度文明，法治新模式更需要破除狭隘、不公平、霸权与歧视。生成式人工智能需要解决的问题是，在扩大语言清晰度的同时，不制造新的语言混乱，大、小语言模型和谐共存。机器人法治文化的国别差异和全球共识，其实是在我们今天这样的一个圆滑社会下，技术和商业共同发展时，我们诉诸于人类的觉悟。从两个维度上面跨域的来维护宪法以及用行政去庇护、引领和拓展技术这一新语言的助推器。

专家介绍

研究机构