该标准聚焦公众端智能体产品服务,将宏观治理转化为可量化指标,涵盖全生命周期管控,旨在平衡产业创新与安全底线,提升国际规则话语权。
一项针对公众端智能体产品与服务的强制性安全国家标准已正式启动立项,由通信网络与人工智能领域具备深厚积累的中国移动作为核心推动力量主导制定。该标准旨在应对智能体技术快速迭代引发的安全逻辑转变,将风险管控从传统的内容输出层面扩展至自主行动、权限管理及工具使用等维度,构建覆盖数据采集、模型训练至决策执行的全链条合规框架。
新立项的标准核心创新在于把宏观的安全治理要求转化为可量化、可检测的具体技术指标,为行业监管、市场准入及技术测评提供法定依据,同时避免过度约束抑制技术活力。标准体系包含任务规划、执行监控及结果验证等多个关键环节的控制机制,特别强调对自主决策行为的约束,要求智能体在执行任务时保持人类监督的可行性,并建立动态风险评估模型以应对新型威胁。相关技术规范已通过国际电信联盟及全国网络安全标准化技术委员会等机构的验证。
随着全球主要经济体加速制定智能体治理规则,技术标准成为国际博弈焦点。此项强制性国家标准的出台,不仅为防范系统性风险、保障网络与数据安全设立基准线,也为构建可信人工智能生态奠定制度基础。此举标志着我国在智能体安全治理领域达到国际先进水平,通过输出具有本土特色的治理方案,深度参与全球人工智能治理并争取规则制定话语权。专家指出,该标准建立的闭环管理体系有助于在金融、医疗等高风险场景降低安全风险事件发生率,推动产业在安全可控的前提下实现高质量发展。