48个人工智能关键问题 | 首届明珠湖会议“问”道前沿 图片

通用人工智能（AGI）犹如星辰大海，吸引着学界与业界同行者不懈探索，并不断取得新突破。但前进的路上仍然充满未知，如能突破研究机构与学科的藩篱，让研究者在开放的科学社区中碰撞思想，将有望加速催生颠覆性的科学突破。

在科学研究领域，对发现问题的投入与解决问题同样重要。2003年图灵奖获得者艾伦·凯（Alan Kay）认为，“相比解决问题的过程，对发现问题的过程进行资助往往更重要”。“辛烷值”提出者、雷达系统设计者之一亨利·蒂泽德（Henry Tizard）认为，“科学的秘密在于提出正确的问题，而对问题的选择是否得当是科学天才的重要标志。”

上海人工智能实验室正着力打造星河学术社区，鼓励有志于挑战科学边界的科学家发现问题、提出问题，并结合实验室在人工智能领域的创新支持机制，帮助他们将前沿创新想法落地为可实施的技术方案。

明珠湖会议作为星河社区的学术系列活动之一，首期于2025年6月12-16日在上海举办，近60位来自全球各地的青年科学家、产业领袖齐聚崇明岛。在为期5天的会议中，参会者以“人工智能的多维突破与协同创新”为主题，围绕“四大议题”，提出了百余个好问题，并最终票选出48个关键科学问题。

欢迎扫码申请加入星河社区，或分享你的建议和问题，参与社区更多学术活动。

以下为首届明珠湖会议形成的人工智能关键问题清单。

1.如何实现具身智能模型的强泛化与自主学习

当前，具身智能技术在大脑、本体、训练和数据等方面仍存在诸多瓶颈，模型泛化能力、本体迁移能力、人类目标对齐以及训练成本与效率等问题仍未得到有效解决。能否从机理的层面挖掘具身智能的共性特征，进而逐层击穿技术难题？本议题的关键问题如下，等你破题/续写：

1、如何构建通用具身智能的基座模型？

2、如何提升具身智能模型的安全性、泛化性和成功率？

3、如何低成本、高效率地获取稀缺场景下物理真实的机器人数据？

4、如何实现具身智能“脑-身-端”软硬件协同创新？

5、从具身智能的角度，基座模型需要实现的具体功能与特性有哪些?

6、如何设计具备自我目标生成与自主策略演化能力的学习范式？

7、如何提升长时记忆机制、基于多源信息的复杂推理、模型推理效率？

8、如何从数据驱动范式转向基于类脑驱动范式的具身智能系统？

9、如何实现具身数据的高效训练与泛化、基于世界模型和物理引擎的推理增强？

10、如何构建实现突破标量奖励的反馈利用方法和可自我验证的智能体？

2.科学突破需要什么样的人工智能

AI for Science（AI4S）能拓展人类对世界的基本认知，被广泛认为是通用人工智能的最大价值点。然而，AI4S的许多重要问题仍悬而未决，如：人工智能与科学如何协同演进？是否存在统一的科学发现系统？如何基于第一性原理，引导AI重构基础研究范式？本议题的关键问题如下，等你破题/续写：

11、 如何设计启发AI和Science协同演进的基础理论？

12、如何实现“自动Science机理发现+自主AI工具设计”的闭环生态？

13、如何突破第一性原理引导的传统基础研究范式，将AI转变为主动的基础科学发现参与者？

14、当代人类所需要的科学突破是什么，AI较人类更擅长实现的科学突破方向有哪些？

15、如何构建多模态跨领域的统一表征，以及科学知识的“通用语言”？

16、如何实现多模态科学数据与人类自然语言表征空间“最优”对齐？

17、如何构建通专群智协同与自我进化的科学发现基座群体新范式？

18、针对数据在时空上的多尺度特性，如何基于实验设计和开发的多尺度模拟方法，对不同科学领域的干湿数据进行高效主动采集并快速验证？

19、如何对长链条数据工厂的生产过程进行高效可靠的复杂决策规划？

20、如何有效地对跨时间尺度、跨空间尺度的实验数据进行统一表征和合成？

3.Make Safe AI的概念、机理与实践路径

随着人工智能能力的不断拓展，AI安全问题逐渐受到社会关注。目前业界主要通过设计外部防御、内部代码等方法来实现AI安全。但是这些方式难以覆盖复杂系统中的极端情况，无法适应输入扰动或场景变更，而且过于保守的内生安全可能会牺牲系统表现与创新潜力。如何在不确定性中守住边界，让模型在不同攻击场景中训练自身的安全能力？本议题的关键问题如下，等你破题/续写：

21、内生 vs 外生：如何通过长期学习实现“内生-外生”安全的协同进化，实现在开放环境下的主动防护？

22、技术环节：如何在技术环节（如数据应用、模型设计、训练优化）设计风险约束机制？

23、社会系统：如何防止模型部署后与社会系统（如使用者、场景环境等）交互中的系统性风险？

24、安全法则：如何量化“安全性-通用能力”的法则关系，辅助制定完备的评价体系？

25、安全风洞：根据安全风险级别与攻击难度，如何构造安全风洞进行自动化安全评测？

26、知识边界：如何系统性地构建大模型的“知识-行为”边界识别与控制机制？

27、安全推理：如何防止模型在链式推理与复杂任务执行中输出具有误导性或风险性的行为路径？

28、自主演化：智能体在从非自主到自主的演化进程中，如何从行为生成机制层面构建其价值对齐、安全演化与行为约束的理论体系？

29、自动评测：在评测过程中，如何融入多元人类价值考量，形成可持续、可演化、自动化的评测体系？

4.推理软硬件的协同创新

长期以来，人工智能提升性能的方式局限于修改模型，系统和硬件要素只能在算法演进过程中提供被动支持，每个要素的真正潜力都没有被完全释放。能否让模型、系统和硬件三大要素协同发展，并形成创新闭环？本议题的关键问题如下，等你破题/续写：

30、如何实现模型、系统与芯片的强协同设计？

31、在高端互联技术受限背景下，如何突破芯片间带宽瓶颈？

32、如何构建适配异构国产硬件的大规模训练、推理系统？

33、面向大模型、突破储存瓶颈的新型国产芯片和软件路径是什么？

34、大模型轻量化技术：如何在性能保持的情况下有效压缩大模型，实现高效推理？

35、在先进工艺受限背景下，如何实现芯片集群的资源全局协同优化？

36、如何实现Agent系统推理优化系统和芯片？

37、如何让大模型算子适配国产软硬件，从而实现部署加速？

38、如何解决国产化算力的稳定性问题？

5.AI前沿十问：未来关键技术节点

基于长期对人工智能行业的研判，AI未来3-5年发展将呈现“三化”的趋势：智能技术体系化、智能形态多元化和智能能力高阶化。在“三化”趋势之下，我们进一步提出了“AI前沿十问”，希望与全行业一起探讨未来关键技术节点：

39、总体智能 vs 单位智能：如何平衡智能发展的质量与效率？

40、Deep RL规模化发展的资源悖论：如何平衡“数据合成”和“算法训练”两大任务的算力分配？

41、软硬协同创新：软件向硬件适配，还是硬件向软件兼容？

42、算力受限的影响：针对应用、迭代和颠覆性的技术，算力应如何配置？

43、Agent与基础模型的关系：Agent是目的还是过程？如何构建真正自主进化的智能体？

44、具身智能：超级大脑与本体的关系? 如何突破“莫拉维克悖论”？实现类人的具身进化和环境自适应？

45、安全可信 vs 智能：如何从Make AI Safe到Make Safe AI？

46、高分 vs 高能：从静态到动态? 训练、评测、解决问题一体化？面向AGI的评测应如何建设？

47、下一代AI for Science：如何从“工具的革命”到“革命的工具”？

48、颠覆性架构是什么？针对Transformer的不足，什么架构能够带来根本性创新？