芯盾时代以产品能力支撑企业AI安全治理

作者:chy123|分类:云梦内刊

2026年9月7日,工信部正式发布《信息通信行业发展“十五五”规划》(以下简称《规划》)。

《规划》开篇明确:“依据《中华人民共和国国民经济和社会发展第十五个五年规划纲要》,制定本规划。”这点明了《规划》与《纲要》的关系:《纲要》为国家未来五年发展明确总体方向,《规划》则围绕信息通信行业提出重点任务和发展部署,为行业未来五年的建设与发展提供重要指引。

通读《规划》,“人工智能”及“AI”等相关表述共出现25次。从专栏1的智能算力指标,到专栏5“智能体互联网络建设”的专门部署,再到第20条“人工智能+制造”的明确倡导,AI已成为信息通信行业现代化的核心变量。而总体要求中“统筹发展和安全”七个字,为全篇奠定了基调:这份文件要回答的不只是“AI如何发展”,还有“AI如何安全”。本文将对这两个问题,依次解读。

一、先谋发展:基础、技术与应用协同推进,筑牢AI发展基座

先看发展。《规划》对人工智能的支持并非零散表态,而是一次从基础设施、技术研发到融合应用的完整布局。

1.为AI筑基:算力与网络基础设施加速升级

《规划》将智能算力规模纳入“十五五”信息通信行业发展主要指标,并围绕算力设施建设作出系统部署。专栏1列出的主要指标中,智能算力规模将从2025年的1590提升至2030年的9800(每秒百亿亿次浮点运算),五年扩大至原来的6倍以上。与之配套的部署要求是“有序部署万卡、十万卡及以上智算集群,面向场景按需部署推理算力设施,加大力度适配国产算力芯片”(第2条)。

网络侧同样信号明确。《规划》提出“加快发展智能体互联网络,打造智网融合的新一代互联网基础设施”,并在专栏5中部署智能体网络标识、网络设施、全球互联互通和网络空间管控体系。未来,网络不仅承载人与设备的连接,也将支撑智能体之间的识别、通信、协作与治理。

2.为AI铸器:核心技术向“原生智能”演进

在“加强关键核心技术攻关”方面,《规划》提出网络原生AI、具备AI能力的网络设备以及支持智能体通信的操作系统等方向,体现出AI与网络、终端及操作系统的进一步融合。

专栏6在6G技术研发中提出加强网络原生AI、通感智算融合、词元(Token)通信、数据服务等网络关键技术攻关;专栏7要求“研发具备AI能力的路由器交换机、安全设备以及网络智能管控系统”;第6条提出“基于开源鸿蒙等研发支持智能体通信、环境感知等功能的操作系统”。

从网络、设备到操作系统,AI正从“可选功能”转向“基础能力”,信息通信产业链也将因此迎来新的能力重构。

3.让AI落地:融合应用图景全面铺开

技术与基础设施最终要服务于产业和社会。《规划》在生产、生活、治理等领域全面拓展人工智能应用。

生产领域,“支持行业企业深入推动‘人工智能+制造’”(第20条);生活领域,推动“家庭机器人、AI眼镜等新型智能终端产品创新和应用普及”(第21条);行业自身的网络运维,要“开展网络运行人工智能创新应用”(专栏10);连反诈这样的社会治理难题,也明确“实施‘人工智能+反诈’专项工程”(专栏12)。

从算力到终端、从生产到治理,《规划》为AI铺开的是一张完整的发展版图。但版图越大,安全的课题越重。《规划》对AI安全与治理的部署,同样体系化。

二、六层架构看AI安全与治理:从底层资源到业务应用

对AI产业而言,安全治理从来不是发展的附属品,而是发展的前提,这一点在《规划》的文本结构中得到了系统、全面的体现。结合《规划》中分布于基础设施、行业治理和网络数据安全等章节的相关部署,本文从算力、数据、模型、内容、主体和应用六个视角梳理其与AI安全治理相关的重点。

1.算力层:先守住AI的“地基”

第18条将“算力设施防护”列为关键技术攻关方向。当智能算力规模向着五年扩大至原来6倍以上的目标冲刺时,算力设施已成为需要重点关注和加强防护的重要对象。AI的万丈高楼,算力的地基必须安全稳固。

2.数据层:训练数据是AI安全的源头

第18条将“训练数据保护”列为重点攻关方向。数据是模型能力的来源,也是风险传导的起点。训练数据一旦发生失真、泄露或被恶意“投毒”,相关风险可能随着模型能力被放大,并进一步传递至下游应用。

《规划》同时提出规范行业数据采集、存储、处理、分析和治理,建设高质量数据集;并要求提升数据安全风险监测预警、溯源处置实战效能。由此可见,AI数据治理既要关注数据价值的开发利用,也要重视数据来源、处理过程和使用边界的安全性。

3.模型层:AI产品要过“漏洞关”和“演练关”

人工智能产品并非天然安全,第15条提出健全网络产品安全漏洞协同治理机制,强化人工智能产品安全漏洞管理,并开展“人工智能+网络安全”专项评价和人工智能防护演练。

这意味着,人工智能产品的安全漏洞管理、专项评价和防护演练将受到更多重视。对于企业而言,模型接入、调用、更新及其与外部工具、业务系统的交互,应置于可评估、可检验、可响应的安全治理框架中。

4.内容层:生成内容走向制度化管理

生成式AI提升了内容生产效率,也带来了深度合成、虚假信息、敏感信息泄露等风险。对此,第18条提出强化“深度合成鉴伪”关键技术攻关;第10条提出完善互联网信息服务管理,建立智能信息服务管理制度。

这表明,深度合成内容的真实性风险和智能信息服务管理正在受到更多关注;企业在使用大模型和智能体时,可结合自身业务需要建立输入与输出内容的风险识别、拦截和留痕机制。

5.主体层:智能体将成为可管理的网络主体

专栏5提出建立互联网智能体身份标识体系,建设智能体注册管理、身份认证、权属认定、寻址解析等基础能力;并要求构建对智能体全生命周期的监测预警与安全管控能力。第10条也提出建立智能体互联网管理制度。

这些部署具有重要指向:智能体不再只是一个抽象的软件功能,而将作为可注册、可认证、可进行权属认定并纳入安全管控的网络对象。随着智能体能够自主发起任务、调用工具和访问资源,其身份真实性、权限边界、权属认定和行为责任将成为重要治理议题。

6.应用层:风险与责任的“双集中”地带

前述五层风险,最终都会在具体应用中汇聚和显现。无论是模型调用、智能客服、知识库问答,还是自主执行任务的智能体,风险最终都将以数据泄露、越权访问、内容失控、行为不可追溯等方式进入企业业务流。因此,应用层是AI安全治理的关键落点。

《规划》第11条提出建设终端智能体创新技术监管能力,第17条提出推进人工智能安全治理标准体系建设并构建一体化保障体系。这些行业治理方向也提示企业在实际应用中应逐步完善风险感知、预警和处置能力。

更重要的是,应用层的治理主体正是企业自身。企业很难独立改变底层算力设施的建设格局,也无法完全左右基础模型的能力边界;但对于自身接入哪些模型、哪些智能体能够访问哪些资源、哪些操作必须经过授权、哪些行为必须留痕,企业可以马上开始建立规则和技术支撑。

对于正在或即将部署AI的企业,可将上述行业治理方向进一步转化为身份可管、权限可控、行为可审三项优先建设目标。想要实现这三个目标,企业需要的是能够把治理要求转化为实战能力的落地工具。

三、芯盾时代:以产品能力支撑企业AI安全治理

面向企业AI规模化应用中的安全与治理需求,芯盾时代自2015年起将AI作为核心战略支柱,依托对AI安全的前瞻性布局,将零信任理念应用于AI领域,打造了IAM AI Agent身份与访问管理方案、智域·AI安全治理平台等AI安全产品,帮助企业夯实AI安全基座,构建针对Agent的零信任安全架构,管好Agent的身份和权限、行为和风险。

1.智域·AI安全治理平台:企业AI资源的统一入口与控制枢纽

针对多模型、多应用、多账号并行带来的管理分散、安全防护不足和审计困难等问题,芯盾时代打造了智域·AI安全治理平台。平台以私有化部署为主,在不影响既有业务逻辑的前提下,作为企业AI资源的统一入口与控制枢纽。

9627c25c-b179-11f1-90a1-92fbcf53809c.jpg

平台整合统一接入、安全防护、全流程审计、合规报告、成本优化和身份管理六大核心功能。其中,统一接入能力支持云端大模型与企业自建模型的统一纳管;安全防护能力可面向提示词注入、敏感信息泄露、违规内容输出等风险进行检测与拦截;全流程审计能力则对用户、应用、模型及Token用量等交互信息进行记录,形成可还原的调用轨迹。

结合《规划》关于人工智能产品安全、深度合成鉴伪和人工智能安全治理体系建设的相关方向,智域·AI安全治理平台可为企业建立统一治理入口和全链路可视能力提供产品支撑,推动AI调用从分散、无序走向可观测、可审计、可治理。

2.AI Agent身份与访问管理方案:让智能体身份可管、权限可控

随着智能体(Agent)开始参与企业业务流程,传统IAM所管理的人类身份与机器身份,需要进一步扩展至智能体身份。针对这一变化,芯盾时代对身份与访问管理平台进行升级,推出AI Agent身份与访问管理方案。

该方案将智能体作为“类人身份”统一纳管,为每个智能体分配唯一且不可更改的ID,并覆盖创建、凭证颁发、角色分配、集成部署、策略配置、监控审计、停用删除等全生命周期管理环节。

在权限管理方面,方案将MCP应用纳入统一管控,围绕角色、API、数据等资源实施细粒度授权,落实最小化权限原则。在认证与审计方面,方案通过智能体身份认证、用户安全认证、MCP资源鉴权及全链路操作留痕,支撑企业对访问过程进行追溯和核验。

这与《规划》提出的智能体注册管理、身份认证、权属认定、全生命周期监测预警与安全管控方向相呼应,可为企业开展相关治理能力建设提供产品支撑。

“统筹发展和安全”,《规划》用这七个字为下一个五年定下总基调:发展决定上限,安全守住底线。

在“十五五”规划的蓝图中,AI每向前一步,安全治理的需求就放大一分。从算力设施到智能体身份,从训练数据到终端应用,一张覆盖AI全栈的治理网络正在成形。芯盾时代的AI安全与治理布局,与《规划》的部署同向而行,将为企业AI战略提供有力的安全支撑。

21 09月

2026-09-21 06:21:31

浏览4420
返回
目录
返回
首页
亚宝药业:控股股东新增质押1160万股用于偿还债务 全球航标业者浙江温州学成结业:情谊像灯塔一样恒久