周伯文:AGI的下一程,迎接科学元认知时刻 | WAIC 2026

周伯文:AGI的下一程,迎接科学元认知时刻 | WAIC 2026

来源:上海人工智能实验室| 2026-07-21

过去十几个月,AI Coding的任务成功率从约5%升至88%;与之相对,一项端到端科学发现评测显示,最好模型的任务完成率在过去18个月仍停留在约3%。

这一“热”一“冷”之间,暴露了当前AI的一条能力边界:模型越来越擅长解决答案能够被快速判断的问题,却仍不擅长面对答案尚不存在、甚至问题本身都没有被定义清楚的研究。

科学研究是下一个Coding,也是突破AI智能上限的终极考题。”7月17日下午,上海人工智能实验室主任、首席科学家周伯文在2026 WAIC科学前沿论坛以《AGI的下一程:迎接科学元认知时刻》为主题发表演讲。

他在分享中指出,要突破当前人工智能的上限,模型必须从被动观察走向主动干预,跨越“数据驱动、及时反馈、模仿正确”的局限,步入“世界交互、长程推理、善用失败”的科学深水区。当模型能从失败中自我反思、自我校准、自我更新三个转变叠加,就能从“重述已知”跨越到“产出未知”,迎来科学元认知时刻。

针对科学研究“反馈周期长、失败率高、缺乏真因果”的底层瓶颈,上海AI实验室推出“书生·端砚”科学发现平台,基于将知识与推理解耦的 Mobius架构,打通干湿实验闭环,把“如何跨越认知边界”本身转化为可学习的样本,让AI真正成为人类科学家探索未知的伙伴。


以下为演讲全文。

各位专家院士,各位企业家,各位老师同学,大家下午好!

今天上午,习近平总书记在开幕式的主旨讲话,为人工智能持续健康、安全、有序发展提供了进一步的指引。在此引领下,我们想一起探讨AGI的下一程,把它定义为科学的“元认知时刻”。

科学前沿论坛的各位老朋友可能都记得,2025年我们提出,AGI和科学在历史上第一次走到了交叉路口。今天站在交叉路口回头看,过去的一年是智能不断涌现的一年,前沿的模型能力不断增强,也引发了我们对AI安全的新思考。同时涌现出了AI for AI——也就是人工智能的自我迭代和进化、世界模型等对模型发展路径的新探索和新思想。

过去的一年上海AI实验室也在不断突破和探索:发布了全球参数规模最大的开源科学大模型书生Intern-S1-Pro,AGI4S珠穆朗玛计划联通全国创新算力和数据,助力全球科研人员向科学高峰攀登;我们打造了“安全即服务”的书安操作系统,研发了人工智能的内生自主安全架构(R^2AI),把防御成功率提升到了42%以上,也发布开源了Agents-A1智能体系统,解决长程复杂科研任务等。


一“热”一“冷”:AI智能狂飙,原创科学发现能力却“纹丝未动”

在经历了过去一年的技术探索、路径迭代和思想碰撞之后,我们来到了一个新的时间节点,向AI认知的深水区进发。那么我们下一步往哪里走?

过去十几个月,有一个非常明确的感知信号,我把它归纳为:一“热”一“冷”

近一年,AI Coding从不到5%的成功率到超过88%,Coding的迭代闭环已建立,代码生成、测试、优化的飞轮已经转起来。更有甚者,国外已经发现50%的Benchmark在目前已经没有任何意义,因为所有主流模型都会把它们刷爆。

与此同时,我们来看人工智能对科学原创性突破进展有影响的一组数据,Allen Institute发布的N2N(端到端的科学研究发现)的Benchmark证明,过去18个月,最好的大模型停留在3%的完成率上,指标纹丝不动,不是说模型没有进展,而是绝大部分模型在科研发现中停留在60%—70%之间,没法完成科学的前流程。

上海AI实验室联合十大科学领域近百位科学家建立了Benchmark,想从科学研究的流程中真正看人工智能能帮助科学研究带来哪些根本性的突破,结果显示,最前沿的模型得分实际都不超过50分。最新发布的NatureBench的结果也印证了这一现象——Surpass‑SOTA比率仅为17.8%。《Nature》的一篇研究论文认为,目前AI产生的科学工作都是增量发现,没有根本性突破,本质当然是模型的智能水平还不够。

这一阶段,也正好为突破智能上限提供了新的机会。要持续突破智能,难在哪里?我们认为,目前的障碍,特别是科学研究领域的障碍来自三个方面:

第一,大模型、智能体都是被动观察世界,只能学到相关性,不根植现实,换个环境就失灵,换句话说就是没有学到因果性。

第二,越有价值、越复杂的任务,反馈信号被稀释得越厉害,模型训练就越难。这是科学研究跟Coding最大的不一样。

第三,人类发表的科学研究成果只有成功数据,没有失败数据,模型被锁死在旧分布里,只会模仿成功案例,无法长出新能力。所以我们认为,要让模型突破智能的上限,需要在主动介入中去寻求真因果,从密集反馈中学难题,在探索失败中去拓展边界。是不是很像人类自己的学习?


科学研究是下一个Coding:把科学变成智能的新学习环境

基于上述洞察,我们提出一个新的论断,科学研究是下一个Coding(Research is the next Coding)

正如Coding在过去一年半中提升了基础模型的全面推理能力和治理水平一样,人工智能用于科学研究、从科学研究中寻找密集的反馈信号、包括失败信号,将进一步加速人工智能上限的突破。

过去一年半,大模型越来越强,但是强在闭环的任务里,善于做那种有明确目标、有及时反馈、边界清晰的任务,比如编程、翻译、下棋都是这一类。在座很多科学家很清楚,我们科学研究是开放任务、没有标准答案,反馈周期很长,失败是常态,而且需要和物理世界交互。

所以从这个意义上来讲,我们认为AGI4S不是通用人工智能的应用,而是人工智能终极考题,所以我们提出,科学研究是下一个Coding。要完成这一步跨越,有三个维度的挑战必须去克服:

第一,从“数据驱动”到“世界交互”。模型必须通过与物理世界的交互理解真实世界,构建理解物理世界、物理规律的世界模型,在实验和证伪中去沉淀暗知识。

第二,必须突破从“及时反馈中学习”走入“长程推理”。在不确定性中学习的能力,Coding可以秒级证伪,而科学研究的证伪周期往往长达数月,而且过程中会有负反馈,比如论文投稿被拒,但绝对不代表科学研究的方向是错误的。负反馈不代表是错误的方向,这是科学研究的难题。那么模型如何在缺乏及时反馈的情况下不迷失自我?

第三,从“模仿正确”到“善用失败”。我们现在所有学习能力都基于我在学一个正确的分布,科学研究往往在于你不知道这个分布在哪里,但你知道什么东西是不work的,什么东西是失败的,如何从失败中去学习。

科学研究的常态是90%的失败。模型要能从失败中自我反思、自我校准、自我更新,三个转变叠加,才能让模型从“重述已知”跨越到“产出未知”,这就是我们认为的科学元认知时刻。


大模型不知道自己不知道,科学元认知为什么是更高门槛?

在这里我有一个设想,今天的人工智能研究很像1900年的物理学。1900年时,开尔文勋爵说,彼时物理学的大厦已经盖完了,但是我们还有两朵“乌云”。正是这两朵“乌云”背后的新认知,催生了相对论与量子力学,孕育了爱因斯坦的狭义相对论、普朗克的量子假说。

当前的大模型“乌云”同样无处不在,但核心问题在于,大模型不知道自己不知道什么。所以,我们需要更聪明的人来指出,什么是我们今天的两朵“乌云”?我们刚才提了很多朵“乌云”,但是更重要在于在人工智能时代,谁是能提出相对论的爱因斯坦,谁是普朗克?这是我们现在面对的AGI走向Science真正巨大的机会。在座有非常多的年轻人,还有线上很多年轻人正在看直播,我特别想借这个机会邀请你们加入我们,成为明天AI界的爱因斯坦和普朗克。

我们的“乌云”是很明显的:怎么从失败中学习,怎么从长程推理中、不确定性中学习。这是AI科学家和Science科学家一个双向奔赴的大好合作机会,原因在于,人工智能促进科学,其本质不是让人工智能做更多实验,产生更多新数据,而是把怎么发现边界、怎么跨越边界这件事本身,变成可学习的样本,让人工智能真正成为科学家们探索未知的伙伴

开尔文的“两朵乌云”示范的不是知识,而是判断力,AI学到这种判断力是对我们人工智能、对人类科学家走向未来非常重要的突破。

从另外一个角度讲,这些科学研究的突破包括失败,能更好让AI去理解智能的下一步。Coding能被AI攻克,因为反馈是及时的、客观的,要成为下一个Coding,我们希望把假设对不对、推理自不自洽变成可验证的结构,让AI也能像跑代码一样快速验证。

大模型能力提升后,AI能帮助科学家快速低成本地试错,以极低的成本实现原来不可能完成的科学实验,所以飞轮就转起来了——科学发现中的真问题推动AI能力向上突破;更强的AI,反过来打开更前沿的科学领域。一轮一轮,彼此放大。

站在这个角度,我们发现科学研究正在迈向深水区——科学正处在知识越来越丰富但是认知却最稀缺的时代,科研面临五大困境:

第一,论文、数据、模型快速增长,但增长的是可获取的信息,不是对未来未知的判断,对未知的判断反而越来越混淆,因为信息太多了。

第二,我们不是没有能力提出假设,而是假设不断涌现,却受制于验证周期和成本,无效的假设浪费了资源。

第三,我们不是缺乏科研工具,工具越来越多,但是工具彼此是割裂的,我们需要大量的桥梁去翻译和转运工具。

第四,成果可以发表,但是研究过程、失败样本和隐形经验难以复制和计算。

第五,AI能够快速生成答案,但却因来源不清、过程不可追溯,尚难交付可信研究。

这五个困境背后,是一个结构性的矛盾,科学本身缺少一个科学的方法,将问题、行动、验证与学习持续连接的反馈链条,其影响是——科学家的验证带宽无法放大,模型也无法从真实世界中成长。


以真实结果驱动研究,构建认识持续迭代的全新范式

助力科研的关键不是继续增加知识供给,而是通过可信验证持续重构认知。「书生·端砚」正是我们为解决这个矛盾所做的尝试,站在科学家的科研流程中去看「书生·端砚」:下层整合了算力、数据、模型、智能体、评测、干湿实验、实验平台、真实科学问题等全链路,但「书生·端砚」绝不是一个科研工具的集合,而是一套贯通认知、推演、行动和反馈,以真实结果驱动研究、持续认识迭代的全新范式。

它是全新范式,而不是工具的组合。「书生·端砚」是一套能够将持续推进研究的自主研究系统,通过通专融合大模型贯通论文、数据和实验记录,识别冲突、理论空白和知识边界,定义真正值得研究的问题,世界模型进一步推演可能路径和结果,多专家智能体协同形成研究方案。

「书生·端砚」不仅仅帮助科学家获得知识,还读懂、辨别、定义真正的问题。在工具层面上,它统一编排模型、代码、数据库、实验资源和科研工具整合;在实验验证上,它可调度跨地域异构设备,贯通干实验与湿实验,执行验证并带回结果;最关键的是实验结束不是终点,符合预期的结果沉淀为可信发现,反预期和失败的结果触发问题的重构,重新回到问题的定义。由此实现的,不是一次任务的闭环,而是研究认知在真实反馈中沉淀失败、持续迭代。

这一转变的背后,是上海AI实验室在底座书生科学大模型的框架突破。

我们不再用传统的Transformer架构,而是将知识记忆和逻辑推理高度耦合,我们推出Mobius架构——把知识向量和推理算子分开构建。知识像一本全局共享的百科全书,推理像一群可以自由组合的专家。需要哪个领域的深度分析,调哪个;需要全局知识支撑,调另一个。这让模型专业化不再是“一次性改造”,而是“可持续的能力生长”。通用理解、专业知识和任务推理三者分工协作,共同演进。

我们不只是在提升模型性能,而是在改变模型生长的方式,基于新架构范式,Intern-S2-Preview在科学理解和推理能力上都保持领先,同时在纯文本、多模态、代码智能体等通用任务上位列开源模型第一梯队。在8个科学专业任务上,如复杂生物学序列任务和分子科学任务评测上,Intern-S2-Preview大幅领先其他开闭源旗舰模型,说明它已经具备了服务科学研究所需的专业基础能力。同时 还具备长周期自主规划与迭代纠错等科研所需的通用智能体能力,并在软件工程开发的主流评测上得到了印证。

基于我们的基模能力,7月份我们刚刚发布了智能体模型Agents-A1,作为一个跨学科自主进化的智能体系统,长交互能力显著提升,可实现更小规模参数、撬动更复杂任务的长程自主处理能力,上线不足10天,基于Agents-A1的社区衍生模型超过70个,全系列模型累计下载量突破25万。在具体应用场景上拓展到密切依赖长程交互的科学发现,比如在理论物理发现、算法优化等,已经全面超过Deepmind、AlphaEvolve所擅长的数学规划和优化任务。


安全是AI进入真实科研的入场券

另一方面,我们认为「书生·端砚」这样的平台需要通过物理模型,进入到真实的物理世界,让其真正具备理解、推演和改进实验的能力。

目前业界对于世界模型的定义还很模糊,很多人认为能够重建三维世界,或能够互动的就叫世界模型。但我们认为,能够真正理解和反映这个世界运行的底层本质规律的模型才是世界模型,它包括物理的、化学的、多尺度的,我们最近发表了一篇论文对世界模型做了一个重新定义,是能让科学发现从预定义空间走向开放实验环境的引擎。

在「书生·端砚」中,我们已经打通了科学假设、计算推演、湿实验执行和结果反馈,形成阶段性的能力节点,让干实验与湿实验形成真正闭环,提升世界模型并不断迭代。

还有非常重要的一点,科学家在用「书生·端砚」时,他们不仅要解决问题,更需要安全地解决问题。对科学家来讲,这个安全分为两个层次:一是确保科研流程的可验证性、科研结果的绝对严谨,确保真实、可靠、可追溯;二是确保珍贵的科研数据的保密性和留在本地非常重要。

基于安全的需求,「书生·端砚」构建了专为科学研究保驾护航的三重功能:构建研究全过程的可信数据链,从数据来源、处理步骤、模型调用到科研产物到最终结论全流程留痕,形成来源可靠、数据可溯、产物一致、结论有据;通过多智能体对关键假设、方法和结论进行交叉验证,降低单一模型的偏差和幻觉风险;通过本地优先、计算隔离和外网访问控制,守住科研数据、算力和权限边界,让错误能够被发现、过程能够被复核、责任能够被追溯,让AI从答案生成器真正走向可以进入科研流程的可靠研究伙伴。


「书生·端砚」助力科学发现“端到端验证”

目前,「书生·端砚」已经在多个真实科研任务上验证了这条闭环的价值。以蛋白质定向进化为例,清华大学张数一老师课题组,花了四年时间尝试改造一个用于基因调控蛋白,课题组探索了很多验证方法,研究主要集中在核心功能区域,引入「书生·端砚」之后仅经过两轮迭代,就发现了一轮新的突变组合,实验验证显示,其功能较此前《Nature》报道的最佳结果提升77%,较野生型提高50倍。

更重要的在于,其中一个关键突变出现在传统上被认为非功能区的位置,让我们有点想起了AIphaGo,当你学会了让它做蛋白质进化以后,模型很快学会了人类从来没有想过的区域,像AIphaGO一样的“神之一手”,所以AI价值在这里不只是沿着专家设定的方向寻找最优答案,而是超出既有认知边界并被实验验证的新假设。

「书生·端砚」集合了书生通用科学模型,也整合了上海AI实验室自研的书生Amix模型和自动化实验设备等,帮助张数一老师课题组深度研究、打通干湿闭环,自进化学习的整合方案,支撑了整个蛋白质进化的研究,将原本漫长的生物学验证周期缩短到原来的1/20。

我们有一系列的科研成果,它的共性是,用「书生·端砚」这样的科学平台,既能够完成“从0-1”对“未知的未知”的探索,也能够完成从“1-10”,把“已知的未知”更快地找出来、提出来、验证掉;还支持“从10到100”,把那些暗藏在数据里、经验里、跨领域的关联里,本已存在却未被意识到的知识,挖掘出来、串联起来。

今天书生科学大模型Intern-S2-Preview和「书生·端砚」科学发现平台首次亮相,我们邀请在座和线上的科学家跟我们一起开启内测,一个月后对全球科学家开放公测,两个月后正式发布桌面版产品,大家可以下载到本地使用。希望书生系列能够推动AI从理解科学、规划研究走向真实世界的实验验证和认知迭代。

谢谢大家。


内测邀请:https://discovery.intern-ai.org.cn/collaboration/survey

 


上海市徐汇区龙文路129号
国际传媒港L1楼

联系我们
comm@pjlab.org.cn