日本拟对高性能AI企业设安全义务 违规将受罚

日本政府正在探讨是否应向高性能人工智能（AI）服务提供商强制实施安全保障义务，并对违反规定的行为设定处罚措施。目前该提案尚处于法律修订前的审议阶段，具体监管对象与惩罚力度尚未明确。

监管框架设计：分层应对不同风险

根据内阁府11日发布的第二次制度审查工作组资料，新构想包括要求经营者履行安全措施、向政府报告情况、赋予行政机关建议与命令权，以及在拒不执行时启动惩戒程序。该监管并非适用于所有AI应用，而是聚焦于具备特定高风险且性能达到阈值以上的系统。对于一般性或低风险场景，则保留通过现有法规与指导原则进行管理的路径。

风险识别与性能评估标准

在前期讨论中，AI滥用、操作失误、网络攻击，以及涉及化学、生物、放射性、核能和**物（CBRNE）等**威胁被列为关键风险类型。关于性能判定标准，有专家建议不应仅以算力为**指标，而应综合考量模型能力及其潜在造成的社会损害程度。

现行法律与新规衔接问题

日本《人工智能法》已于2025年5月28日正式成立，并于6月4日公布部分条款施行，9月1日起**生效。当前工作组**在于评估是否需在现有法律基础上增设经营者的法定责任条款及政府执法权限，以增强制度执行力。

监管对象与责任边界争议

监管范围仍存在分歧。工作组优先考虑对服务运营方施加义务，但也在研究应将责任延伸至研发环节还是**于部署阶段。同时，使用者的责任将独立于经营者监管另行讨论，避免责任混淆。

惩戒机制与平衡考量

惩戒流程设计为渐进式：从通报、建议到正式命令，**可触发处罚。在上次会议中，有意见提出，在涉及公共安全的紧急情形下，可跳过中间步骤直接下达指令或即时处罚。不过此提议仅为一种观点，尚未形成共识。

与会者强调，监管必须兼顾实效性与企业负担。即便需要信息公开，也应保护商业秘密，防止过度干预企业正常运作。另有声音指出，不应将本可通过现有法律解决的问题重复纳入新法案。

**协调与企业参与

会议还强调规则需具备对海外运营商的实际约束力，避免造成日本企业承担不成比例的责任。未来在确定监管对象和义务范围时，将充分评估跨境执行的可行性。

11日的工作组听证会上，Anthropic Japan、Google、OpenAI Japan、NTT、Sakana AI及SB Intuitions等企业代表出席，分享了各自对网络攻击等风险的认知、内部安全实践，以及对法定义务与行业自律之间关系的看法。

日本政府表示，计划在今年年底前发布涵盖法律修订内容在内的整体制度改革方案。