随着我国“人工智能+”的推进，各类智能主体和人工智能应用广泛渗透到生产生活环境中。近期频发的人工智能安全事件不仅引起了公众的关注，也成为产业界和学术界共同解决这一问题的重要方向。近日，国家网络安全标准化技术委员会（以下简称“网络安全标委会”）正式成立“人工智能安全标准工作组”（WG9），表明我国人工智能安全标准体系建设进入系统化推进阶段。人工智能安全事件频发，攻防战愈演愈烈。近期，全球人工智能行业安全事件频发。 3月下旬，消息来源人工智能公司Anthropic旗下的人工智能编程工具Claude Code的代码被泄露。该事件被认为是人工智能行业首例核心代码泄露事件。根据各种公开信息以及Anthropic官方回应分析，奇安信安全专家张雷认为，本次源代码泄露是一起典型的发布过程中的人为失误，也是一起供应链安全事件。 “我们原本应该向客户交付成品，但最终却给他们发送了全套制造图纸。” “当一个产品的核心逻辑和最后一道防线暴露出来时，生产者的整个操作就变得透明了。竞争对手可以直接研究你的架构、功能设计、代理逻辑，并可以快速模仿、追赶甚至优化。同时，当安全规则暴露出来时，更容易发现漏洞、绕过限制、突破你的产品。”张雷表示：“今年流行的智能代理工具OpenClaw（俗称“龙虾”）也面临多重安全风险。4月3日，国家信息安全漏洞库（CNNVD）发布公告称，3月10日至4月2日，共收集OpenClaw漏洞155个，其中极其危急漏洞11个，高危漏洞53个。该漏洞影响多个版本的OpenClaw漏洞。 “只用了一个下午就攻破了OpenClaw。”国内知名白帽安全团队e DARKNAVY表示，目前国内主要的“蝗虫”解决方案分为两类，一类是提供基于OpenClaw的对话，另一类是提供用户可以自行配置的服务器，相比之下，前者风险更大，如果被攻破，黑客可以直接获取服务器权限，甚至可以访问大型内网模型。经济上海交通大学工业与管理学院教授透露，近日，一家制造企业因仓促实施OpenClaw导致生产线关闭72小时，直接损失可能超过2000万元。此外，一些法律服务机构在风险防范和数据安全方面没有采取足够的措施，导致大量客户的私人数据泄露。亚信安全代表还指出，当前的网络攻击正在向智能化、自动化方向发展。黑客利用人工智能动态生成勒索软件负载并生成高度模拟的钓鱼内容，大大提高了攻击的效率和隐蔽性。基于自主人工智能攻击代理和深度伪造的企业欺诈将是 2026 年最紧迫的安全挑战。人工智能安全的供给正在不断发展，需求正在创造机会。根据国资委公布的数据截至1月底投产，核心企业在工业制造、能源电力、智能网联汽车等重点领域打造了1000多个人工智能应用场景。人工智能驱动的工业革命趋势日渐清晰。与此同时，AI安全问题引发的行业担忧也催生了新的安全需求，推动AI安全厂商持续发力。对此，东莞证券认为，近期OpenClaw等智能技术的快速普及创造了新的安全需求场景，加上网络安全领域利好政策的不断释放，有望给行业带来新的增长机会。长江证券预计，2026年国内网络安全市场规模将突破1500亿元，2030年将达到3000亿元，年均增速18-20%。该行业正处于发展的黄金时期。在同时，新产品也不断推出。AI安全行为和服务。近日，上海人工智能研究院推出高安全工业级智能代理平台SafeClaw，专注于安全要求高的行业智能化转型，助力行业从“反应式安全”走向“内源性安全”之路。同时，上海人工智能研究院开放了能够快速诊断风险的Agent防护模型，并考虑了将安全准则纳入Agent决策层的“内生进化”治理框架。 “最危险的不是已知的风险，而是‘意想不到的危险’。因此，随着人工智能能力的突飞猛进，现在的核心挑战是主动构建内生安全体系。”上海人工智能研究院首席科学家胡霞表示：“此举旨在深度融合安全人工智能治理不断完善，安全标准不断加快制定。随着人工智能的广泛应用，人工智能治理也成为人们关注的焦点。今年的政府工作报告明确提出“完善人工智能治理”，全国人大常委会工作报告提出“加强人工智能领域的立法研究”。在此背景下，人工智能安全标准制定工作正在加速进行，3月25日，工信部就《人工智能安全治理模型上下文协议应用安全要求》等行业标准规划文件进行了公开征求。今年4月，人工智能安全标准工作组（WG9）宣布，将重点加快实施《网络安全技术人工智能安全能力成熟度评估方法》《网络安全技术人工智能应用安全分类与评级方法》《网络安全技术涉及未成年人的人工智能技术应用安全指南》等核心标准。同时，在国家网络安全标准委员会统一制定下，重点制定内生性与数据库安全、新业态与服务安全、系统与应用安全、科学评估等领域的国家标准。 “鉴于人工智能带来的新风险，我们必须促进政策法规、技术标准和实施机制三个层面的合作。”展望未来，奇安信副总裁张勇认为，安全第一将从“可选”要求走向“标准要求”。安全合规性从建议变为必需。 “可配置的AI安全投资”、“AI应用总投资15%以上”等行业标杆。其次，网络安全正在从“单点防护”转向“全链协同”，即“一处发现攻击，全网自动防御”。第三，从“人性防御”到“技术防御+智能防御”，AI对AI已成为攻防常态。第四个目标是从“被动应急响应”转向“主动免疫”，构建强大的防御体系，“即使受到攻击也可以快速恢复，而不丢失基本数据”。
（编辑：朱晓航）