新能源汽车法规｜自动驾驶“驶向”何方？AI科技伦理治理的路径【走出去智库】

走出去智库（CGGT）观察

由走出去智库（CGGT）提供学术资源支持的《深圳法治评论》2025年第二期《专论》栏目聚焦“创新自动驾驶汽车管理制度体系”，约请法律专家建言献策。

北京科技创新中心研究基地副主任赵精武的文章《科技伦理嵌入人工智能治理体系嵌入路径研究——以自动驾驶应用场景为例》对科技伦理嵌入人工智能治理体系嵌入路径进行了研究，提出应当对自动驾驶汽车面临的各种风险进行一体式评估，并根据确认的不同风险的情形，采取针对性的治理机制。

《深圳法治评论》由中共深圳市委全面依法治市委员会办公室、深圳市司法局主办，定位于高端领导决策读物，聚焦深圳法治建设，刊发高水平、可实操的应用性政策研究，辅助市领导及本市党政机关领导干部法治建设方面决策，为支持深圳建设中国特色社会主义法治先行示范城市建言献策。《深圳法治评论》在2020-2024年连续五年荣膺深圳内刊传媒奖之“优秀城市内刊奖”。自2020年创刊起，走出去智库（CGGT）即为该高端决策读物提供学术资源支持。

今天，走出去智库（CGGT）微信公众号刊发北京科技创新中心研究基地副主任赵精武的文章，供关注自动驾驶汽车法规的读者参考。

要点

1、人工智能技术治理的核心目标是统筹兼顾科技创新和科技安全，因为这两种治理目标的权衡状态并没有唯一正解，所以才需要通过科技伦理治理机制所形成的伦理协商空间，推动不同主体对这两类目标的实现方式达成最大化共识。

2、人工智能技术风险的解决需要政府机构与非政府机构共同自由参与技术治理活动，通过事前细分具体的风险类型，并借由不同的治理工具及其衔接路径发挥各自的治理效用，实现一致性的技术治理目标。

3、在自动驾驶领域中，科技伦理治理机制需要与其他治理机制协同工作，以识别、评估、预防和控制安全风险。

正文

科技伦理嵌入人工智能治理体系嵌入路径研究

——以自动驾驶应用场景为例

文/赵精武

北京科技创新中心研究基地副主任

在当下，以 Deepseek 为代表的人工智能技术最为热门的核心研究议题是如何充分实现人工智能技术的社会效益并控制潜在技术风险。同时，法律风险、科技伦理风险等多元化风险类型相互交织，使得技术治理实践需要采取一种更为综合性的治理模式，全局性地解决技术应用的风险多元化问题。然而，人工智能治理框架下的多元治理机制之间彼此如何有效衔接、如何明确机制差异等问题尚未得到很好地解决。因此，有必要重新审视科技伦理治理机制如何嵌入人工智能技术治理体系，并协调其与法律、市场、技术等其他治理机制之间的衔接。

人工智能科技伦理治理的理论基础与常见范式

科技伦理治理的治理目标与治理理论

科技伦理治理实质上是一种方向性、目标性治理，表现为“以伦理为原则为指导，解决科技发展面临的伦理问题和社会问题、增进科学技术为人的福祉而发展的各种方式的总和”。在多元文化背景下，形成统一的科技伦理共识存在难度，为此，科技伦理治理通过采取伦理原则与审查的方式，将抽象的伦理价值聚焦于具体的技术应用方式，促成概括性伦理规范向可视化应用标准的转变。

人工智能科技伦理的治理功能

科技伦理治理模式的最终治理目标是在尽可能不影响科研自由和科技创新空间的情况下提供伦理方向的“优化建议”。人工智能技术治理的核心目标是统筹兼顾科技创新和科技安全，因为这两种治理目标的权衡状态并没有唯一正解，所以才需要通过科技伦理治理机制所形成的伦理协商空间，推动不同主体对这两类目标的实现方式达成最大化共识。总结而言，科技伦理治理功能的实现方式是以开放式的科技伦理吸纳社会群体意见，使得科技创新活动无限趋近于理想状态。

人工智能科技伦理治理功能包括引导、协商、识别和反馈四项功能，它们能够发挥有别于其他治理机制的规范性作用。其中，引导功能强调科技创新活动应遵循社会共识性的科技伦理原则；协商功能通过开放式的公共对话寻求科技伦理共识；识别功能用于判断科技创新活动的合理性并发现潜在伦理风险；反馈功能则通过评价结果促使科技创新活动自我调整，避免出现重复伦理问题。

人工智能科技伦理治理的常见机制

科技伦理治理的引导、协商、识别和反馈四项功能对应了四类科技伦理治理机制：其一，引导功能延伸出行业指引性治理机制，包括监管机构事前制定科技创新产业规划、最佳实践范例等。其二，协商功能延伸出科技伦理治理公众参与机制，通过征求社会公众意见等方式，探讨并达成共识性的伦理原则。其三，识别机制延伸出科技伦理审查机制、科技伦理研判机制等治理机制。其四，反馈功能延伸出科技伦理管理监督机制、科技伦理整改督促机制等优化改良型治理机制。

上述四项功能彼此之间存在衔接关系，也使得相应的科技伦理治理机制呈现体系化衔接关系。此外，在反馈功能所确立的治理机制作用下，科技伦理审查所作出的道德判断以及专家建议又会反馈至被审查对象，再次实现具体技术应用领域的科技伦理引导功能，进而达成科技伦理治理的功能循环。

由于科技伦理治理机制会随着伦理规范的内容创新而有所变化，因此科技伦理治理嵌入人工智能治理体系过程中的核心问题在于如何明确科技伦理治理功能可以与哪些治理机制进行衔接。

人工智能科技伦理治理的嵌入路径

科技伦理嵌入的理论前提：风险识别

在人工智能治理体系中，风险识别既是确保技术安全的重要保障，也是促进科技高质量创新的基础要件。人工智能技术风险的解决需要政府机构与非政府机构共同自由参与技术治理活动，通过事前细分具体的风险类型，并借由不同的治理工具及其衔接路径发挥各自的治理效用，实现一致性的技术治理目标。

在科技伦理风险层面，广义社会风险论与狭义伦理风险论在具体风险样态的涵盖范围上存在分歧，无法有效衔接科技伦理治理与法律治理。对此，科技伦理风险的核心样态应当是科技发展与人类伦理观念的不适配状态，人工智能科技伦理风险的发现、识别和确认应当是以科技伦理观念为基础，而不是以法律意义上的权益保障为中心 。

科技伦理治理机制的个体化嵌入

在单一面向科技伦理风险时，科技伦理治理机制的嵌入方式应当是完成单一风险治理的内在逻辑体系衔接，即建构科技伦理风险研判管理机制、科技伦理风险识别评估机制和科技伦理风险反馈应对机制三个部分。

科技伦理风险研判管理机制属于预期性治理机制。在法学领域，当前人工智能科技伦理研究聚焦于诸如歧视偏见等伦理问题。面对超出可预见范围的各类技术风险，在难以准确预测潜在风险的情况下，需要采取灵活的科技伦理规范，引导科技创新活动自觉采取有利于社会公共利益的方式进行。

科技伦理风险识别评估机制属于风险确认型治理机制，核心在于确认科技伦理风险的范围。并且，风险识别评估机制的内容设置强调多元知识背景的行为主体共同参与，尽可能避免评估的个人主观性和专业导向性。此外，该机制的主要功能是发现和确认科技伦理风险的基本类型。

科技伦理风险反馈应对机制属于风险应对型治理机制，主要将风险识别评估机制所作出的道德判断反馈至科技创新机构与人员。这种应对机制既包括将伦理风险识别结果和专家建议反馈至被审查对象的即时性反馈，也包括监管机构结合科技伦理治理实践，以禁止性清单形式反馈具有高风险水平的特定科技创新活动的群体性反馈。

科技伦理治理机制的衔接式嵌入

在明确科技伦理治理机制在人工智能治理体系中的单向嵌入路径后，还需要考量该治理机制如何与法律、技术、市场等其他治理机制进行衔接。科技伦理治理与其他治理机制的衔接方式表现为：伦理与法律的衔接方式是建构科技伦理审查制度，将敏感研究领域的科技创新活动纳入审查活动中，并在区分强制审查和自愿审查的前提下，将是否依法进行强制审查以及审查结果作为判断科技创新主体对损害事实是否存在主观过错的标准。

在伦理与技术层面，面对人工智能技术未来发展的不确定性，在治理体系中需要发挥科技伦理治理的引导功能，将工程伦理、职业道德培训嵌入至科技创新活动。

伦理与市场的衔接主要是通过行业自律规范实现，具体表现为制定共识性的自律规范与将科技伦理规范融入行业自律规范的范畴两个方面。

人工智能科技伦理治理嵌入式建构实例：以自动驾驶应用为例

在前述治理机制的嵌入建构框架下，自动驾驶技术的伦理治理规则可划分为以下三个步骤逐步建构。

第一步：自动驾驶科技伦理风险的分析识别

自动驾驶技术的应用涉及安全价值保护位阶的问题。在行车遭遇紧急情况时，自动驾驶系统是应优先保护车内驾驶人，还是在权衡车内外实际损害结果后再行选择，成为自动驾驶普及应用的一大伦理难题。行车安全的伦理价值观念是由制造商、信息系统开发者还是伦理学或法学专家决定也存在争议。另外，自动驾驶技术应用引发的失业风险问题应归属于就业公共政策范畴，而非科技伦理风险领域。

基于人工智能治理目标，科技伦理风险的判断标准应是科技创新是否合理以及不合理的科技创新活动是否造成人类主体尊严的贬损。在自动驾驶应用场景中，科技伦理风险侧重科技创新活动、科研人员是否符合特定技术领域的伦理规范，故相应的治理机制嵌入建构则需要围绕特定场景的科技伦理风险予以展开。

第二步：自动驾驶科技伦理风险的单一式治理

为应对行车路况决策不符合科技伦理规范的问题，结合“风险研判—风险发现、识别、评估—风险应对”的治理方式，科技伦理治理的个体嵌入方式应包括自动驾驶科技伦理研判管理机制、自动驾驶科技伦理风险发现识别机制和自动驾驶科技伦理风险反馈应对机制。

自动驾驶科技伦理研判管理机制主要根据产业实践发展状况，结合产业发展政策和科技创新规划，明确科技伦理风险的表现样态与应当遵守的科技伦理规范。同时，针对自动驾驶应用可能面临的复杂交通路况，监管机构和科技伦理委员会可以采取行业指导规范、技术应用实践范例等方式联合发布技术应用指导文件，列举在车辆交会、高速公路、窄道行车等常见行车情形下，符合科技伦理标准的行车路线和行车方式。

自动驾驶科技伦理识别评估机制主要是根据自动驾驶的行车路线、行车方式等具体应用场景因素，发现、识别和确认具体的科技伦理风险。同时，这一环节的科技伦理治理还包括伦理嵌入创新活动等其他形式的治理机制。

自动驾驶科技伦理反馈应对机制是根据自动驾驶科技存在的科技伦理风险样态以及上一个治理环节所作出的道德判断与技术整改建议，对自动驾驶技术方案进行调整和优化。在自愿科技伦理审查的情形下，相应的审查结果和优化建议仅需反馈至科技创新主体，由其结合自身状况判断是否应当按照优化建议调整相应的技术方案。

第三步：自动驾驶科技伦理风险的衔接式治理

在自动驾驶领域中，科技伦理治理机制需要与其他治理机制协同工作，以识别、评估、预防和控制安全风险。其中，法律治理机制侧重防范义务主体未能履行安全保障义务导致的人身损害风险；技术治理机制侧重防范因技术漏洞或系统设计缺陷导致的自动驾驶系统不可靠风险；市场治理机制则侧重预防行业竞争失序风险，该风险源于企业因过分追求技术领先而简化安全管理流程或过早投入实践试点应用。

科技伦理治理机制通过自动驾驶安全风险的一体化评估，将安全风险因素统一纳入技术治理框架中，并遵循三个原则：其一，业已评估的安全风险类型不再重新评估，可以直接作为其他安全风险评估的结论。其二，各类治理机制所延伸出的安全风险评估不就同一事项进行多次评估。其三，定期安全风险评估为主，不定期安全风险评估为辅。此外，事前区分伦理风险、技术风险等风险类型是为了更好地确认各类安全风险的轻重缓急，进而为科技创新主体、监管机构等治理主体的后续行动提供相应的规范指引。在实践中，《深圳经济特区智能网联汽车管理条例》确立了智能网联汽车的监管平台，旨在实现车路云一体化监管，保障交通安全、网络安全、数据安全，为自动驾驶的风险评估制度提供了范例与模板。

科技伦理治理的核心治理效果是引导科技创新活动的良性健康发展，督促科研人员自觉地遵守科技伦理规范。所以，科技伦理治理的嵌入路径更需要探索更加多元化的伦理观念引导模式，而不是仅仅限于科技伦理审查机制，以实现风险治理逻辑层面的制度协调性。

（原文《科技伦理嵌入人工智能治理体系的路径展开——以自动驾驶应用场景为例》发表于《法治社会》2024 年第 5 期，经作者修改后在《深圳法治评论》刊发。）