AI监管｜韩国通过《人工智能基本法》 成为全球第二部人工智能立法

走出去智库（CGGT）观察

2024年12月26日，韩国国会通过了《人工智能基本法》，预计在今年年初通过韩国内阁会议后，于2026年1月正式实施。韩国是继欧盟之后，全球第二个通过人工智能法案的国家或地区。

走出去智库（CGGT）特约法律专家、鸿鹄律师事务所（Bird & Bird）合伙人龚钰认为，韩国采取了与欧盟类似的基于风险的监管方法，对高影响力AI进行分类管理，这种逐步加强的法律监管增强了公众对AI技术的信任。其中，对高影响力AI和生成式AI的监管、确保AI系统的透明性和安全性等措施，为AI应用放置了一道安全防线。此外，法案还重视AI人力资源的培养和对中小型AI企业的扶持，有助于推动AI生态体系的繁荣。

该法案有哪些监管措施？今天，走出去智库（CGGT）刊发龚钰律师团队的编译文章，供关注全球AI监管的读者参阅。

要点

1、《人工智能基本法》明确规定其域外效力，要求符合特定用户数量或销售额标准的境外人工智能业务经营者，必须书面指定一名当地代表，以配合履行相关合规义务。

2、如果人工智能业务经营者提供难以与现实区分的虚拟输出，如声音、图像或视频，他们必须明确通知或标明用户这些输出是由人工智能生成的。

3、提供和利用高影响人工智能的产品或服务的人工智能业务经营者必须努力提前评估其对基本人权的潜在影响。

正文

近日，韩国国会通过了《人工智能基本法》，成为继欧盟《人工智能法案》（AI Act）之后全球第二部人工智能立法。

01、适用范围及核心定义

《人工智能基本法》对提供人工智能服务的人工智能业务经营者规定了一系列合规义务，并额外针对“高影响人工智能”以及“生成式人工智能”设置一些特殊的合规义务。

尤其值得注意的是，《人工智能基本法》明确规定其域外效力，要求符合特定用户数量或销售额标准的境外人工智能业务经营者，必须书面指定一名当地代表，以配合履行相关合规义务。

“人工智能业务经营者”是指从事与人工智能产业相关业务的公司、组织、个人或政府部门，包括：

▪人工智能开发经营者：开发并提供人工智能的实体。

▪人工智能利用经营者：利用人工智能开发经营者开发并提供的人工智能，提供人工智能产品或服务的实体。

“高影响人工智能”是指对人类生命、身体健康或基本权利产生重大影响或存在潜在风险的人工智能系统，具体包括应用于下列领域的人工智能系统：

▪能源供应；

▪饮用水生产过程；

▪医疗保健提供和利用系统的建立与运营；

▪医疗器械的开发和使用；

▪数字医疗器械；

▪核材料和核设施的安全管理和运营；

用于刑事调查或逮捕的生物特征信息（如面部特征、指纹、虹膜和掌纹）的分析和利用，涉及可识别个人的生理或行为特征；

▪对个人权利和义务产生重大影响的决策或评估，如招聘或贷款审查；

▪交通工具、设施和系统的主要运营和管理；

▪影响公民的决策，包括国家、地方政府或公共机构对公共服务的资格验证、确定或费用收取；

▪学前教育、初等教育和中等教育中的学生评估；

▪其他由总统令规定的对人类生命、身体健康或基本权利有重大影响的领域。

“生成式人工智能”是指模仿输入数据的结构和特征，生成文本、声音、图像、视频或其他多样化输出的人工智能系统。

02、核心义务

《人工智能基本法》所规定的主要合规义务要求如下：

1. 透明度义务（第31条）

▪预先通知义务（第1款）：当提供利用高影响人工智能或生成式人工智能的产品或服务时，人工智能业务经营者必须提前通知用户该产品或服务基于此类人工智能运行。

▪标注人工智能生成输出的义务（第2款）：当提供利用生成式人工智能的产品或服务时，人工智能业务经营者必须标明生成式人工智能的输出或利用其的产品或服务是由生成式人工智能生成的。

▪通知人工智能生成输出的义务（第3款）：如果人工智能业务经营者提供难以与现实区分的虚拟输出，如声音、图像或视频，他们必须明确通知或标明用户这些输出是由人工智能生成的。如果这些输出构成或部分构成艺术或创意表达，通知或标明可以采取不妨碍其展示或欣赏的方式。

2. 安全保障义务（第32条）

▪安全保障义务（第1款）：对于累积运算量超过一定数量级的人工智能系统，人工智能业务经营者必须采取识别、评估、减轻人工智能风险的安全保障措施，并建立人工智能风险管理系统。

▪安全措施实施报告义务（第2款）：适用前述安全保障义务要求的人工智能业务经营者必须向监管机构报告安全措施的实施情况。

3. 高影响人工智能的识别义务（第33条）

▪人工智能业务经营者必须主动识别相关人工智能产品和服务是否属于高影响人工智能。如有必要，可以请求监管机构确认其是否属于高影响人工智能。

4. 高影响人工智能的特殊安全保障义务（第34条）

▪提供和利用高影响人工智能的产品或服务的人工智能业务经营者必须采取进一步特殊的安全保障措施，以确保人工智能的安全性和可靠性，例如建立和运营风险管理计划、建立和运营用户保护措施、对高影响人工智能进行人类监督等。

5. 高影响人工智能影响评估义务（第35条）

▪提供和利用高影响人工智能的产品或服务的人工智能业务经营者必须努力提前评估其对基本人权的潜在影响。

03、监管机构及处罚规则

根据《人工智能基本法》第40条，韩国科学技术信息通信部在发现或怀疑人工智能业务经营者存在违法行为时，可以要求人工智能业务经营者提交相关材料或进行必要的调查。如果确认违法，韩国科学技术信息通信可以责令人工智能业务经营者暂停违法活动或要求进行整改。

未能遵守该责令暂停或整改要求的人工智能业务经营者，将被处以最高3000万韩元（约15万元人民币）的罚款。

此外，如果人工智能业务经营者未能履行前述提及的预先通知义务（第31条第1款），或落入域外适用效力的境外人工智能业务经营者未能指定本地代表，将直接导致最高3000万韩元（约15万元人民币）的罚款。

来源：愚公法律评论（龚钰律师团队微信公众号）