世界互联网大会聚焦智能体安全，360作为核心成员单位持续推动AI安全治理
AI 摘要2026年11月2日，世界互联网大会人工智能专委会2026年全体会议在乌镇召开。会议审议的2027年度工作计划草案提出，专委会将聚焦“智能体安全可控与协同治理”，推动AI安全治理从内容生成防范转向智能体行为管控。360集团高级副总裁潘剑锋参会。360推出了覆盖运行管控的智能体安全防护系统，其攻防系统“图龙锋”成为首个通过中国信通院漏洞挖掘评估的产品。
解读
发生了什么
2026年11月2日，世界互联网大会人工智能专业委员会2026年全体会议及第三次主任委员会议在浙江乌镇召开。会议审议的2027年度工作计划草案提出，安全与治理推进计划将聚焦“智能体安全可控与协同治理”，并在2027年就权限管理、自主决策管控和多智能体协作安全开展专题研究。360集团首席科学家潘剑锋以副主任委员身份参会，专委会此前已走访调研华为、360、阿里云智能、百度等企业。360在会上介绍了其智能体安全防护与管理系统，旗下自研攻防系统“图龙锋”首个通过中国信通院相关能力评估。
为什么重要
大模型演进为能够自主调用工具、访问系统并执行任务的智能体后，AI风险从虚假信息等内容层面扩展到权限滥用和越权行为。传统网络防御主要针对确定性指令和边界流量，难以对具备非确定性决策链条的自主智能体进行有效约束。当智能体被赋予企业文件读写、网络连接和代码执行权限，一旦遭受指令注入或逻辑劫持，将直接导致内网数据泄露或关键业务中断。这种风险机制倒逼安全防御从静态边界检查转向动态行为管控，促使行业建立以行为审计、权限隔离为核心的技术管理标准。
影响谁
- 智能体开发商与大模型应用企业必须在产品架构中接入权限管理与运行时行为审计模块，系统开发与合规集成的技术门槛将提高。
- 数字安全与网络防护服务商业务边界从传统的网络与终端防御向模型运行时攻防延伸，催生出针对智能体行为管控的新增企业级采购需求。
- 引入AI自动化流程的企业客户采购智能体系统时的评估重点将从单纯的任务完成效率转向权限可控性，采购决策和系统审计周期可能相应延长。
背景
自生成式人工智能进入应用落地阶段以来，技术形态正从人机对话快速转向自主执行复杂任务的智能体架构。随着智能体在办公协同、系统运维等业务场景深度嵌入，针对大模型逻辑漏洞与越权执行的安全风险逐步显现。国内产业组织在此背景下加快行动，世界互联网大会人工智能专委会联合华为、百度、阿里、360等核心厂商推进联合调研。监管与标准化机构的关注点也随之从算法备案与数据生成合规，向系统运行时的可控性与安全测评体系纵深推进。
和中国的关系
中国正加速推动数智技术与实体经济结合，智能体在工业互联、金融风控及政务系统中广泛落地，其行为可控性直接关系到数字基础设施的运行安全。本土安全企业与中国信通院等机构在智能体攻防测评和国家标准研制上的联动，有助于建立自主可控的AI治理技术框架，为中国企业参与全球智能体技术治理提供标准支持。
接下来关注
- 世界互联网大会人工智能专委会2027年度关于智能体权限管理与人类管控专题研究的落地进展。
- 中国信通院“互联网智能体治理”后续批次评估名单及相关国家标准的立项与发布时间。
- 360智能体安全防护与管理系统在重点行业客户环境中的落地应用进展。
摘要和解读由 AI 根据公开报道整理，以原文为准。