 |
 |
|
|
|
|
《网络安全人才实战能力报告-AI赋能篇》正式发布，AI狂奔之下安全能力如何升级
AI能够独立完成的任务正在迅速变长。人工智能评测机构METR的研究显示，前沿AI模型能够胜任的复杂任务正在快速变长：以人类专家完成任务所需时间衡量，模型在50%成功率下可完成的任务时长大约每7个月翻一番。 当AI独立工作的时间越来越长，能够访问的数据和获得的系统权限越来越多，如何确保它不受恶意指令操纵、不突破权限边界，也成为必须回答的问题。 AI能力快速进化，安全能力能否同步跟上？ 9月18日，在第一届中国网络空间安全大会上，《网络安全人才实战能力报告—AI赋能篇》（以下简称“报告”）正式发布，对AI时代网络安全人才的分布、实战能力、培养和评价进行了系统分析。 报告是网络安全人才实战能力研究系列继“攻防实战能力篇”“人才评价篇”“安全测试评估篇”之后推出的第四篇章。报告由国务院学位委员会学科评议组（网络空间安全组）、教育部高等学校网络空间安全专业教学指导委员会指导，北京航空航天大学、中国科学技术大学、永信至诚科技集团股份有限公司担任主编单位，多所高校、科研机构及产业单位参与编制。
发布现场，中国网络空间安全学会常务理事、教育部高等学校网络空间安全专业教学指导委员会副主任委员、北京航空航天大学教授刘建伟对报告进行了发布和解读。
AI从回答问题走向执行任务 随着大模型进入核心业务，AI安全的对象正在发生变化。过去，安全工作更多关注网络、系统和数据；如今，模型、算法、训练数据、提示词、智能体权限以及工具调用链，都成为新的安全边界。 报告将AI时代网络安全人才面临的实战任务划分为三类： 模型安全，重点保障模型、底层数据和算法本身的安全；AI应用安全，重点应对模型和智能体进入业务系统后产生的新风险；AI赋能网络安全，重点研究如何利用AI提升漏洞挖掘、安全运营、攻防对抗和威胁检测等工作的效率。 三类场景意味着网络安全人才面对着双重任务：既要能够识别和处置AI带来的新型风险，也要善于运用AI提高安全工作效率。 AI应用快速落地 专职安全力量尚未跟上 报告显示，当前相关人才呈现从业年限偏短、地域和行业分布相对集中、专职力量不足等特点。 在模型安全领域，65%的从业者工作年限不足5年；广东、北京、浙江、上海和江苏五个省市汇集了46%的AI应用安全人才；在关键信息基础设施单位中，75%的相关人才集中在电力、金融和通信三大行业。 与AI应用加快落地形成对照的是，不少单位尚未建立专职安全队伍。64%的大模型相关单位仍由传统安全团队兼职或研发团队兼顾模型安全，仅23%的单位设置了专门的AI安全研究队伍；81%的AI应用落地单位尚未设置专职AI安全团队。
这意味着，当大模型和智能体进入越来越多业务场景时，与之匹配的风险识别、测试验证和应急处置能力仍需加快建设。 不仅要懂模型 还要懂接口权限和业务 AI应用安全并不是单一的模型问题。当模型可以读取内部数据、连接外部工具并参与业务流程，风险可能沿着接口、权限和调用链不断延伸。 报告显示，在AI应用安全场景中，提示词安全、内容合规、接口安全和业务逻辑安全四个维度，尚未达到熟练水平的人员占比分别为54%、64%、60%和65%。 相关数据表明，AI安全人才不仅需要理解模型机制，还要具备数据安全、接口安全、权限控制和业务风险分析能力。具备算法知识、攻防能力和业务理解的复合型人才，正在成为AI应用安全落地的重要支撑。 AI能够提效 专业判断仍不可替代 AI也在改变传统网络安全工作的方式。漏洞挖掘、安全运营、威胁分析和响应处置等环节，正在引入大模型和智能体，以提高信息处理与任务执行效率。 不过，报告指出，AI提效并不意味着可以替代专业判断。10年以上从业者对AI辅助漏洞挖掘效率的满意度为58.3%，在不同从业年限群体中最低。 这一结果反映出，在复杂、专业和高要求的安全任务中，资深人员更加关注AI输出是否准确、稳定和可验证。AI可以辅助分析和执行任务，但对漏洞成因、攻击路径、业务影响和处置方案的判断，仍需要安全人员把关。 AI课程加快普及 实训能力仍需补齐 面对人才需求变化，高校正在加快将AI纳入网络安全人才培养体系。报告显示，68%的高校已经将AI相关课程设置为独立必修课或选修课。 但从课程设置走向实战能力形成，仍面临算力、师资、案例和实训环境等现实制约。仅10%的受访教师认为所在高校已经建立较为完备的AI安全实训体系，26%的高校具备较为充足的算力条件，可以支持模型训练和对抗攻击实验；具备网络安全攻防与AI算法双重经验的教师约占21%。 在高校最紧缺的教学资源中，80%的需求集中在实操案例、真实攻击案例和实验指导。这意味着，AI安全人才培养不能止步于知识讲授，还需要更多贴近真实业务、真实风险和真实攻防环境的实践训练。 AI安全场景不断拓展 评价方式更加突出实战导向 AI安全场景不断拓展，也给传统人才评价方式带来挑战。仅以学历、证书、资历和知识掌握程度，难以完整判断一名安全人员能否在复杂环境下发现并处置风险。 报告基于ASK-P网络安全人才实战能力评价体系，围绕模型安全、AI应用安全和AI赋能网络安全三类场景，进一步探索分类分层的能力评价方法。 与传统评价方式相比，该方法更加关注人员能否在真实或仿真环境中运用知识和技能完成安全任务、处置实际风险，并形成可验证的实战成果，从而为高校明确培养目标、企业识别人才胜任力以及从业人员规划能力成长路径提供参考。 报告提出，未来网络安全人才建设应更加贴近真实业务和实战需求，以实际任务定义能力、以真实场景组织训练、以任务完成效果评价人才，推动高校、科研机构、网络安全企业和重点行业共同参与人才培养、训练、评价和使用。 作为报告主编单位之一，永信至诚表示，未来将继续联合高校、科研机构和行业伙伴，围绕真实业务、真实风险和真实攻防场景开展网络安全人才实战能力研究，为AI时代网络安全人才培养与评价提供更多实践参考。
|
|||||||||||
 |
|||||||||||
 |
| 推荐文章 |
| 图片主题 | ||||
|
|
||||
| 热门文章 |
| 最新文章 |
| 相关文章 |
|
|
