从“明珠湖”到“奇点科学”，探索AI安全关键问题，提案可直通“AGI4S攀登者行动计划” | 报名开启

开放的科学社区，有助于产生颠覆性的突破。为此，上海人工智能实验室（上海AI实验室）搭建了浦江科学社区，并推出明珠湖会议等一系列学术活动，鼓励并支持有志于挑战科学边界的科学家发现问题、提出问题。2025年，明珠湖会议成功举办两届，吸引全球数百位青年代表参与，并凝练出了21个提案和97个关键问题清单，其中7个提案已得到项目支持。

2026年，明珠湖会议已升级更名为“奇点科学会议（明珠湖）”，并将于4月24日至26日在上海举办，诚邀全球AI青年学者与产业专家参加。在为期3天的科技研修中，围绕“安全可信AI：从边界探索到体系构建”，通过“靶向破题-深度拆解-战略收敛”等环节，探讨以安全赋能人工智能行业高质量发展的路径。

针对在明珠湖会议上收集到的好问题和相关提案，上海AI实验室将结合“AGI4S攀登者行动计划”等创新机制，提供人才、项目以及专项资源等多元化支持，让突破性技术从实验室走向更广阔的世界舞台。

会议信息

时间：2025年4月24日至26日（周五至周日）

地点：上海·崇明

报名信息

报名通道已开启，欢迎扫码报名。

报名要求：

请提交个人信息及对安全可信AI的深度思考，并上传一份简历（PDF格式）。

截止时间：2026年4月21日18:00

核心议题

议题一：内生安全 | 机制探索与架构突破

1、针对模型内生安全，哪些问题适合通过知识性遗忘解决，哪些必须依赖认知性判别机制？

2、现有Transformer架构缺乏原生安全干预通路，难以从底层突破“外挂防护”局限，内生安全的模型架构如何设计？

3、从大模型到智能体，内生安全能力应如何延续与扩展？

4、Claude Mythos等前沿模型超级能力/威胁的涌现对内生安全带来哪些新启示？

议题二：安全底座 | 构建AGI时代的安全可信体系

1、智能体全流程安全：如何量化误差对决策的传导效应，形式化定义安全边界，实现权限动态管控与端到端可控？

2、多智能体系统安全：如何设计微隔离与风险阻断机制，实现安全能力的跨智能体泛化？

3、未知风险安全评测：如何将安全度量嵌入全链路，将安全评测从“静态测题”升级为“真实闭环验证”，并建立涌现风险预警机制？

4、AGI4S安全（CBRN双重用途风险）：如何识别科学发现与武器化风险边界，结合护栏与红队对抗，实现全生命周期可审计、可拦截？

议题三：产业安全 | AGI时代的安全重塑与价值跃迁

1、如何立足行业通用的设施架构与技术路线，将安全从风险防控升级为核心竞争力，构建贯穿研发与应用全链条的标准化安全防线，推动AI从试点走向规模化应用？

2、如何依托通用技术路线图，以产业资源反哺安全能力建设，聚焦算法可解释性等核心领域，构建安全技术与产业场景的协同机制？

3、如何基于通用架构构建安全稳态体系，统筹AGI可控性与场景适配性，建立人机协同演进机制，为产业创造长期可控的持续价值？

议题四：安全治理 | 构建包容互鉴的AI安全治理新路径

1、如何依托“一带一路”等多边合作平台，建立与技术底座相衔接的AI安全治理框架，实现从规则参与者到制度性规则制定者的跃升？

2、确定框架式引领路径后，应如何构建“话语-生态-设施”三层递进的落地体系？

3、AGI4S的安全对齐，应该继续套用“WMDP”的通用方案，还是建立“科学方法论内置”的专用标准？

会议议程

4月24日

• 报到，核心问题初聚焦

4月25日

• 引导报道

• 学术思辨

• 小组研讨

4月26日

• 小组研讨

• 提案演讲

• 成果展示及闭幕式

本届奇点科学会议（明珠湖）在寻找这样的你：

以AI推动产业升级的实干者

能够为AI提供安全盾牌的攻坚者

关注AI伦理与社会价值的开拓者

上海AI实验室提供一站式资源包：

科学社区扶持，邀请加入浦江科学社区，实验室重大科技攻关任务培养扶持等。

重要专项加持，结合“AGI4S攀登者行动计划”，提供“实验室-上海市-国家级”三层接力专项支持。

多元资源支持，专项算力、脱敏数据集及充足的研究经费。

在上海AI实验室举办的系列学术活动中，我们对话了多位参会青年代表，记录他们最关心的科学问题。同时，我们也期待，每一个有价值的问题，都能被看见，并最终得到解答。