蒲公英人工智能治理开放平台发布，系统支持治理原则落地｜WAIC 2022

为积极应对全球人工智能治理挑战，系统解决规则落地难、软硬研究分离、治理碎片化等问题，保障人工智能健康可持续发展，上海人工智能实验室治理研究中心联合清华大学、复旦大学合作团队共同发起建设“软硬结合”的蒲公英人工智能治理开放平台——OpenEGLab（www.openeglab.org.cn）。9月1日，平台1.0版本在2022世界人工智能大会科学前沿全体会议上发布。科技部高新技术司司长陈家昌、战略规划司副司长邢怀滨，上海市科技工作党委书记徐枫和国家新一代人工智能治理专业委员会主任薛澜共同启动平台。

蒲公英人工智能治理开放平台正式发布

目前，国际上尚少见规则和技术双轮互动的治理体系性平台。蒲公英人工智能治理开放平台OpenEGLab，目标打造系统、实用的人工智能伦理与治理基础设施，探索“规则-技术-场景-评测”一体协同的人工智能治理体系。蒲公英代表着希望、温暖与友谊，蒲公英人工智能治理开放平台秉持促进跨学科研究、多元主体共建共享的理念，让蒲公英的种子飞得更远。国家新一代人工智能治理专业委员会主任薛澜教授表示：“希望业界同仁能在平台上持续积淀治理创新成果和工具，促进人工智能治理理念的落地，服务提升人工智能治理效率，共促人工智能可信、可持续发展。”

“规则-技术-场景-评测”一体协同

此次平台共发布包括规则集、治理图谱、风险展示、评测框架和行业方案五大部分。规则集致力于构建全球治理知识库，目前已收录约1500条标注规则文件，包括伦理原则、政策战略、法律法规和标准等。治理图谱基于平台收录的全球AI治理标注规则集，旨在打造人工智能治理全景图像，呈现各地治理，支撑研判国际治理动向和趋势。规则集标签全部开放，用户可根据需求自主构建、自由探索各种“蒲公英”式的治理图谱。

“蒲公英”式的治理图谱

风险展示的目标是打开人工智能模型价值影响“黑箱”，通过互动方式，帮助用户理解AI模型的基本结构、鲁棒性、安全性、隐私性等。平台目前支持36种常见视觉和语言模型的交互分析，致力于推动探索规则和技术紧密结合、互相促进的人工智能治理研究。评测框架则旨在对常用人工智能模型进行多维度评测。结合业界研究，平台提出“人工智能六维评测体系”，用于综合评估一个人工智能模型的基础属性，目前可提供10个常用人工智能模型的初步评测结果。为实现在典型应用场景落地的人工智能治理目标，平台积极推进为智慧医疗、自动驾驶、智慧教育、智慧城市等重点行业提供行业方案。目前，在自动驾驶领域，平台广泛收集了国内关于自动驾驶的重要法律文件，从全流程角度对研发、测试、道路行驶各个环节设计的数据类型、相关利益人、处理原则、法律基准进行梳理，形成《自动驾驶数据合规评估指南》和自动驾驶数据合规评估平台。在医疗领域，平台聚焦人工智能医疗影像中的伦理问题，尝试提出对策建议，推动人工智能医疗影像的伦理原则实质性落地。人工智能的技术创新离不开科学治理，两者相互支撑、协同推动人工智能的可持续发展。未来，蒲公英人工智能治理开放平台期待与各方共建共享，广泛传播人工智能治理的先进理念。