在第22届中国网络安全年会（即国家网络安全宣传周网络安全协同防御分论坛）上，国内首次面向AI大模型的公开众测成果正式发布。本次测试由中央网信办网络安全协调局指导，国家计算机网络应急技术处理协调中心主办，共吸引559名白帽子安全研究人员参与，对市面上15款主流AI大模型及其应用产品进行了深度安全检测。此次测评范围广泛，涵盖底层基础大模型、智能体系统以及模型开发平台等多种形态，旨在模拟真实攻击场景，挖掘潜在安全隐患。最终结果显示，累计发现各类安全漏洞达281个，其中属于AI大模型特有的新型漏洞有17...
在第22届中国网络安全年会（即国家网络安全宣传周网络安全协同防御分论坛）上，国内首次面向AI大模型的公开众测成果正式发布。本次测试由中央网信办网络安全协调局指导，国家计算机网络应急技术处理协调中心主办，共吸引559名白帽子安全研究人员参与，对市面上15款主流AI大模型及其应用产品进行了深度安全检测。
此次测评范围广泛，涵盖底层基础大模型、智能体系统以及模型开发平台等多种形态，旨在模拟真实攻击场景，挖掘潜在安全隐患。最终结果显示，累计发现各类安全漏洞达281个，其中属于AI大模型特有的新型漏洞有177个，占比超过六成。这一数据表明，AI模型不仅面临传统信息安全威胁，还存在大量与生成式能力、提示工程等密切相关的新类型风险。
测试过程中暴露出的主要问题包括：部分产品存在严重的不当内容输出风险，信息泄露类漏洞较为常见，提示注入攻击成为普遍存在的安全隐患。同时，尽管部分厂商已部署一定的防御机制，但在应对资源无节制调用和恶意高频请求方面仍显薄弱。此外，传统安全层面的漏洞依然广泛存在，不可忽视。
在参测的主流大模型中，腾讯混元大模型、百度文心一言及阿里巴巴通义App表现相对出色，所暴露的安全漏洞数量较少，体现出较强的综合防护能力，为行业树立了安全建设的标杆。
会议尾声，主管部门提出四项AI大模型安全治理重点方向：强化系统性安全防护措施，推动建立统一的漏洞分类与评级标准，积极引导社会白帽力量参与安全共建，并将安全管理贯穿于AI系统设计、开发、部署到运维的全生命周期之中。
相关推荐：
AI撰写率：让创作变得更高效，助力内容产业腾飞,AI证件照apk破解版
ChatGPT崩了？这一事件背后隐藏的深刻影响与启示
AI写作生成是重复的吗？人工智能内容创作的未来潜力
SEO元素-提升网站排名的核心要素,推广分成网站有哪些
ChatGPT打不开网页？看完这篇你就懂了！,魔法帝AI
SEO优化的好处：提升品牌曝光，赢得更多客户
文章缩写AI：高效编辑的未来之光
什么是AI工具？让你领先一步的智能助手,彩色鹦鹉ai
AI缩写在线：让人工智能助力你行业前沿技术,ai怎么打开为PDF
解决OpenAI登录不了的困扰，轻松恢复访问！,数坤ai口碑
360提交入口网址：提升网站排名，优化搜索体验的最佳选择,无界AI背后
SEO公司哪家好？选择优质SEO服务，助力企业数字化转型,囚禁之ai斐然斐城
AI智能哪个软件好用？最值得推荐的AI应用！
AI人工智能：开发与应用的必备软件推荐
AI写文生成器在线轻松解决内容创作难题，提升创作效率
SEO优化介绍：提升网站排名，赢得搜索引擎青睐
文章续写AI：提升写作效率，创意无限
AI写作自动生成免费：轻松实现内容创作，提升工作效率
AI写作稿子：如何用人工智能助力创作，提升写作效率与质量
AI缩短短文-提升创作效率，写作新体验,大理拍照ai
SEO优化软件下载，提升网站排名的秘密武器
AI写作技巧，让创作事半功倍！
ChatGPT不能加载过去的对话，如何提升你的使用体验？,无违禁词ai写作
AI写作是怎么形成的揭开人工智能赋能创作的奥秘
SEO位置优化，提升网站排名的关键策略
SEO埋词技巧，如何提升网站排名？,贵州营销推广方法
SEO是什么岗位？揭秘SEO的工作职责与未来发展前景,ai粉丝跳舞
SEO啥意思？揭开搜索引擎优化的神秘面纱,梅州ai软件
常用AI工具，高效智能生活
如何选择专业的关键词优化排名公司，提升网站流量与转化率,ai控台
