科研动态

Dynamics

首页 >  科研动态 > 新闻  >  详情

人工智能开放计算体系DeepLink获评为“算力中国·年度突破成果”

近日,在2023中国算力大会上,上海人工智能实验室(上海AI实验室)“人工智能开放计算体系DeepLink”获评为“算力中国·年度突破成果”。评审委员会评价DeepLink“通过一次适配即可深度接入算法生态,根本上实现软硬件解耦,极大降低算力使用门槛,对提升我国人工智能产业供应链韧性至关重要。”

本届算力大会由工业和信息化部、宁夏回族自治区人民政府共同主办,以“算领新产业潮流,力赋高质量发展”为主题。为发掘在算力或相关产业达到全球领先水平的基础理论、创新方法、方法模式和平台应用的创新成果,大会综合评选出对提高行业的整体技术水平、竞争能力和创新能力有较大推动作用的“算力中国·年度突破成果”。评审委员会由院士、 高校及科研机构专家、领军企业技术带头人组成,集聚算力相关领域最具影响力的专家学者。DeepLink现已开源,与产业伙伴协同共建开放的人工智能软硬件生态。

DeepLink主页:https://deeplink.org.cn/home

开源链接:https://github.com/DeepLink-org

7baecd3074bf85d52df8c3d5bde94d2.png

“人工智能开放计算体系DeepLink”获评“算力中国·年度突破成果”

【搭建适配“桥梁”,实现软硬件解耦】

当前,人工智能研究在软硬件两端同时发力:成熟完善的基础软件体系、紧密协同的上层软件生态、有效衔接的下游价值链闭环已初步形成;在硬件端,涵盖计算芯片、开源平台、基础应用、行业应用及产品等环节的人工智能产业链也正逐步构建完善。但当前,支持硬件芯片适配的模型少、易用性低、性能较差、应用场景较为局限等问题依然存在。在此背景下,探索人工智能底层技术软硬件适配途径成为重大行业需求。

针对行业现状,上海AI实验室推出人工智能开放计算体系DeepLink,旨在搭建对硬件芯片与深度学习软件框架进行适配的桥梁。

40d977bbc298b56e1587af098c3cb57.png

DeepLink搭建软硬件适配“桥梁”

DeepLink提供“算子模式+编译模式”双路径接入标准,并针对不同硬件芯片的不同适配需求,开放多层次接入技术,着力性能提升。目前DeepLink已支持多后端接入PyTorch2.0编译链路,对接国际主流生态,具备多场景的性能优势。

在DeepLink体系下,硬件一次适配即可兼容多款框架,极大降低算力使用门槛,提升整体的训练效率。以硬件适配为例,芯片厂商完成算子适配后,即可无缝对接多款主流深度学习框架。以单模型平均30-40个算子计算,平均适配一个模型的开发时间可从2人月减少至1人月,开发效率提升100%。

上海AI实验室还与50余家机构共同参与由中国电子技术标准化研究院牵头的国家标准编制工作,引导产业共同建设软硬件适配标准。目前,DeepLink构建的评测标准已被多家硬件厂商认可,DeepLink按季度对芯片进行多维度测试并出具评测报告,该报告已成为各类硬件加速卡的优化参考。


【开源开放,助力AI软硬件生态体系建设】

互联互通已成为AI产业发展的关键一环。DeepLink基于现有软硬件厂商合作基础,为硬件芯片提供统一的适配方案,降低开发者的门槛和成本,发挥硬件芯片的性能并提升兼容性,积累框架适配硬件的成功经验。

目前,DeepLink已向全社会开源,促进多方软硬件的协同和创新。在与硬件芯片适配的同时,DeepLink还具备对CV、NLP等任务的支持能力,已完成LLaMa、书生·浦语等大语言模型的硬件推理适配。

未来,DeepLink将持续扩展多芯片和多框架接入能力,引导产学研密切协同,充分发挥硬件芯片的特性和优势,不断完善对AIGC、CV、NLP、NeRF大模型的支持,优化标准硬件评测指标,推动硬件芯片的应用落地,打造开放高效的人工智能生态。



comm@pjlab.org.cn

上海市徐汇区云锦路701号西岸国际人工智能中心37-38层

沪ICP备2021009351号-1