新闻直播 要闻 国际 军事 政协 政务 图片 视频

财经 金融 证券 汽车 科技 消费 能源 地产 农业

观点 理论 智库 中国3分钟 中国访谈 中国网评 中国关键词

文化 文创 艺术 时尚 旅游 铁路 悦读 民藏 中医 中国瓷

国情 助残 一带一路 海洋 草原 黄河 运河 湾区 联盟 心理 老年

中国公共关系协会 南南合作知识分享中国大洋协会 中国藏学研究中心 南南人权论坛 中国妇女儿童博物馆雍和宫

中国供应商 商务 物联 应急 教育 生态 儒学娱乐 微视 生活 食品 道家文化 音乐 北京时间 记录中国电商中国母婴 数字经济 中国溯源 全球甄选 中医肿瘤民族数智中国康养中国影视动漫高校中国

丝路中国 中国湖北 新山东 中部纵览 中国四川 七彩云南 浪潮资讯衢州有礼 新温州 海丝 海峡常德 兴安岭上兴安盟Hello天津圣洁西藏天辽地宁壮美广西美丽江西大美黑龙江

中新网9月21日电(记者 吴家驹)AI是击穿网络安全的矛？还是守护网络安全的盾？

近日，2025年国家网络安全宣传周在昆明开幕，多位网络安全专家在接受中新网采访时，谈及AI给网络安全带来的新风险和新机遇。

360数字安全集团总裁胡振泉认为，AI的安全问题无比复杂，和传统的网络安全问题有着非常大的不同，其中包括：AI生成内容本身的安全性、AI幻觉、提示词注入攻击等问题。

胡振泉进一步表示，当AI变成智能体后，会负责规划很多任务，而如果AI智能体规划的任务执行到很多步后，再发生错乱、随意调度的问题，情况将更加复杂，这是传统网络安全手段无法解决的问题。

天融信科技集团助理总裁张博表示，如今一些大模型被攻击，大模型算法或数据发生泄露，都暴露了大模型在训练、部署、使用等阶段，存在着一定的安全风险。同时，AI降低了网络攻击的门槛，很多攻击者会使用AI，来提升攻击的频度、强度、效率。

奇安信集团副总裁李虎也表示，目前已出现许多用于攻击的AI智能体，甚至已经开始对外提供服务。如果黑客组织使用AI发起攻击，成本会更低，而且更具不可控性。现在大模型的应用越来越广泛，涉及社会生活的方方面面，如果AI的安全性出现问题，将产生非常大的危害。

在南方电网公司数字化部副总经理禤亮看来，AI需要慢慢培育。在培育的过程中，如果数据出现问题，一方面可能导致AI智能体的反应速度下降，另一方面，可能导致AI作出的判断存在误差，这对电网企业和新型电力系统来说是致命的。

张博表示，目前AI赋能网络安全，是行业中非常重要的一个研究方向，国内外不少安全公司都在探索AI与安全技术的结合。例如，把大模型融入到安全设备中，与安全平台和云端安全服务进行联动，形成端侧云端协同的基于大模型的智能化运营体系。

“传统的网络安全软件由人编写，而大模型的智力超过人类，因此应该‘以模制模’，即用大模型来解决大模型的安全问题。”胡振泉认为，应该有专门负责安全的大模型，来监督做业务的大模型，并处理其在做业务过程面临的一系列安全问题，大模型的发展应遵循“安全、向善、可信、可控”的原则。

在李虎看来，我们可以构建大模型的安全“红域”，把大模型训练、微调、应用等各个环节，都纳入到红域中心统一管控，然后再进行区隔化管理，把每个区域分而治之，收缩风险边界。同时，我们需要对大模型的提示词、标注数据、知识库数据等，进行监测和审计。

禤亮表示，为防止AI在应用层面出现偏差，需要有良好的数据治理基础，形成高质量的数据集。同时，需要有专门的团队负责监测AI，并构建监测机制，来使AI朝着我们希望的方向发展。(完)

版权所有 中国互联网新闻中心Copyright ? China.org.cn. All Rights Reserved