首页| 论坛| 搜索| 消息
主题:天融信:大模型安全风险防范应早作绸缪、未萌先虑
爱我中华发表于 2025-12-01 20:08
11月30日,“华为杯”第四届中国研究生网络安全创新大赛全国总决赛在长沙成功举行。大赛以“拥抱智能时代 锻造实战人才”为主题,旨在响应国家网络空间安全战略需求,推动高层次网络安全人才培养与技术创新。中国工程院院士邬江兴、中国科学院院士郭世泽出席开幕式。天融信科技集团高级副总裁刘辉受邀出席并作主题分享,为智能时代下的网络安全发展“谋良策、支实招”。近年来,随着大模型等关键技术持续突破,人工智能应用加速渗透各行各业,多样化场景落地进程不断提速,新一轮科技革命与产业变革在全球范围内蓬勃兴起。从赋能内容生产提质增效,到助力实体行业降本升级,再到优化基层服务精准供给,AI技术已深度融入我国经济社会各领域,成为驱动高质量发展的关键引擎。天融信科技集团高级副总裁 刘辉在同期举行的网络安全高端论坛上,刘辉发表《早作绸缪、未萌先虑-大模型安全风险分析与防范》主题演讲。他表示,人工智能安全已成为全球关注的问题,各个国家针对日益严峻的AI安全问题颁布了一系列政策和标准。修订完成的《中华人民共和国网络安全法》积极回应人工智能治理和发展需要,增加人工智能安全与发展相关规定。刘辉提到,在技术特性与业务场景的双重作用下,AI正面临诸多独特的安全风险挑战,这些风险不仅关乎大模型系统本身的稳定性,更直接影响各类智能体的实际应用。对此,他建议构建“环境可信、模型可靠、应用可控、数据安全、供应链稳定”的体系化安全防护体系,通过夯实基础网络安全防线、构建AI环境专项防护和增强一体化安全运营管控,为AI在各行各业高效、稳定的运行保驾护航。夯实基础网络安全防线:形成大模型外部环境的安全能力,从网络、接入、终端和数据相互融合联动,保障运行环境的可信。构建AI环境专项防护:对大模型运行环境提供容器安全和API安全保护;对应用大模型提供网络、协议、内容等方面的安全防护;对访问、调用数据和模型自身进行安全保护,实现模型可靠、应用可控。增强一体化安全运营管控:通过对通用安全和专项防护进行一体化安全运营与管控,实现对AI大模型的全生命周期管控,以及实时检测、协同联动、主动防护的体系化防护。在演讲最后,刘辉强调,AI的快速应用将带来新一轮的行业升级与发展,随之引入的网络安全问题也应早作绸缪、未萌先虑,将安全防护贯穿于AI设计、部署、训练与应用的全生命周期,以体系化防护筑牢AI产业健康发展的安全根基。聚力同行 共育英才据悉,第四届中国研究生网络安全创新大赛共吸引全国188所高校及科研院所的1053支队伍报名参赛,最终来自国防科技大学、北京邮电大学、武汉大学、华中科技大学、西安电子科技大学等知名高校的202支团队、742名研究生角逐决赛,规模再创历史新高。作为大赛的支持单位,天融信积极为构建高水平网络安全人才生态、筑牢国家网络空间安全屏障贡献力量。天融信始终秉持“融天下英才,筑可信网络”的理念,目前已与400余所高校建立合作机制,完成200+产学合作、协同育人项目。天融信连续九届联合主办全国高校密码数学挑战赛,联合承办首届全国大学生人工智能安全竞赛,并通过共建人工智能实验室、开展人工智能工程师认证等形式,持续推进人工智能安全人才培养。当AI成为数字经济的核心引擎,安全是不可逾越的底线。今年8月,国务院发布《关于深入实施“人工智能+”行动的意见》,明确提出深入实施“人工智能+”行动,推动人工智能与经济社会各行业各领域广泛深度融合。天融信坚持安全与智算并进,持续聚焦人工智能在实际业务场景中的创新与应用实践,赋能各行业客户数字化、智能化转型升级。
回帖(6):
6 # huwg
12-02 00:57
谢谢分享
5 # huwg
12-02 00:57
了解一下
4 # huwg
12-02 00:57
来看看了
3 # srwam
12-01 22:10
还是不错的
2 # srwam
12-01 22:10
了解一下
1 # srwam
12-01 22:10
来看看

全部回帖(6)»
最新回帖
收藏本帖
发新帖