Z.ai创始人：自我改进的AI是迈向AGI的关键一步，但安全至关重要
Self-improving AI the key step towards AGI but safety is key: Z.ai founder
AI 摘要2026年10月31日，计算机学者、智谱AI（Z.ai）创始人唐杰在上海的一场活动上表示，利用人工智能构建更智能的系统（即递归自我改进，RSI）将使通用人工智能（AGI）更具可行性，但前提是必须确保系统安全。这番表态反映出中美两国的AI企业目前都在竞逐递归自我改进技术，试图通过系统自身的加速迭代推动技术突破。
解读
发生了什么
据《南华早报》科技版（SCMP Tech）2026年11月1日报道，中国计算机学者、Z.ai创始人唐杰于10月31日在上海出席活动并发表演讲。唐杰指出，借助人工智能技术开发更高级的智能系统，是实现通用人工智能的关键步骤，能让AGI更快成为现实。他同时强调，推进这一进程的核心前提是保证AI系统的安全性。报道指出，当前中美两国的顶尖AI公司都在全力研发递归自我改进（RSI）技术，期望让能力更强的大模型自我迭代，形成正向加速循环。
为什么重要
递归自我改进（RSI）被视作大模型突破传统人类标注数据瓶颈的核心路径。当前基于海量人工数据与监督微调的技术路线逐渐遭遇边际效应递减，AI自主生成训练数据、验证逻辑并优化代码，成为将算力转化为更高智能密度的关键杠杆。然而，该机制的风险在于不可控的代码变更和目标漂移，一旦自主进化脱离人类预设的对齐机制，可能引发无法逆转的安全隐患。唐杰在技术竞速期强调安全红线，本质上是在呼吁将对齐测试与防御机制前置到自我迭代闭环之中。如果中美头部企业在缺乏安全共识的情况下单方面提速迭代，可能促使各国监管机构提前收紧对前沿基础模型自主运行权限的审查标准。
影响谁
- 大模型研发企业与算法团队研发重心将加速从依赖外部人工标注数据，转向构建具备自我验证与合成数据能力的闭环系统，同时需要大幅增加在安全对齐层面的研发投入。
- AI安全与对齐评测行业随着模型递归自我改进进入工程落地阶段，针对自主生成代码和自主决策逻辑的动态安全审计、沙盒隔离工具将迎来直接需求增长。
- 科技监管部门与政策制定者面对模型自主迭代带来的不确定性，监管评估的重点将逐步从静态的预训练数据集审查，转向对模型自主修改行为与运行边界的动态监控。
背景
在过去数年中，大语言模型的性能提升主要依赖参数规模扩大与训练数据堆叠，但高质量人类文本资源的耗尽促使行业探索新的进化范式。以OpenAI、Anthropic以及中国头部大模型企业为代表的技术团队，普遍将“AI制造AI”和强化学习自我探索视为通往AGI的必经之路。唐杰创立的智谱AI是中国最具代表性的大模型独角兽之一，长期主导中国基础模型开源生态与前沿技术路径探索。随着计算基础设施投资持续攀升，企业迫切需要通过自我改进机制降低人工干预成本，这也使得学界与产业界对自主演化安全边界的讨论愈发集中。
和中国的关系
唐杰的言论表明，中国头部大模型团队在AGI技术路线上已与全球前沿保持同频，正同步攻坚自举式迭代（Self-improving）这一核心技术。面对算力获取受限等外部客观约束，中国企业若能有效利用递归自我改进提升数据与算法效率，有助于在模型精细化调优与产业落地环节形成自主竞争力。
接下来关注
- 智谱AI等中国头部模型厂商是否在下一代基础模型发布中披露具体的自我改进（RSI）架构或合成数据训练成果
- 国内外主要AI安全评测机构是否出台针对模型自主迭代行为的专项安全标准与测试基准
- 监管部门是否会在前沿AI安全规范中新增针对模型递归代码执行与自修改功能的限制条款
摘要和解读由 AI 根据公开报道整理，以原文为准。