“星启Talk”第9期：间接监督AI“行人所不能行” by 钟瑞麒｜活动预告

9月11日，“上海人工智能实验室学术论坛”将举办第9期“星启Talk”暨首期“AI安全与对齐”学术报告。本期邀请加州大学伯克利分校在读博士钟瑞麒，带来主题报告《间接监督AI“行人所不能行”》。“星启Talk”不定期邀请全球杰出青年学者，分享在人工智能相关领域的代表性工作。

同时，上海人工智能实验室AI治理研究中心联合安远AI共同组织“AI安全与对齐”系列学术报告，探讨大模型安全与对齐领域的最新进展及关键突破，本期报告为该系列首期。

【“星启Talk”第9期】

活动详情

主题：《间接监督AI“行人所不能行”》
嘉宾：钟瑞麒 加州大学伯克利分校在读博士
主持人：滕妍 上海人工智能实验室青年研究员
时间：北京时间 9月11日 上午 10:00-11:00
参与方式：视频号线上直播

讲座简介
当人类自己都难以界定某个正确答案时，人类是否还能监督强大的人工智能系统去解决人类自身难以解决问题？本次报告中，钟瑞麒将分享关于监督AI的研究进展，并介绍两项自然语言处理任务：使用AI自动在大型文本数据集中找到规律，并用自然语言解释它们；请非专业程序员在人工智能系统的帮助下对复杂的SQL程序进行标记，并达到与数据库专家相当的准确率。这项研究帮助人类以高效且低成本的方式间接监督人工智能，并产生了此前未被专家关注到的发现。

本期嘉宾
钟瑞麒 加州大学伯克利分校计算机系在读博士
师从Jacob Steinhardt和Dan Klein，专注于自然语言处理和AI对齐问题研究，曾为Anthropic、微软、纽约大学等机构做过关于可拓展监督的学术报告。

主持人
滕妍 上海人工智能实验室青年研究员

【上海人工智能实验室学术论坛】
“上海人工智能实验室学术论坛”分设“星河Talk”与“星启Talk”两个主题系列活动，将分别邀请全球顶尖教授和杰出青年学者作为嘉宾，线上线下分享学术成果、探讨科技前沿。更多精彩内容，敬请期待。