百度联合鹏城实验室发布全球最大中文单体模型,参数规模达2600亿
12月8日消息,鹏城实验室与百度联合召开发布会,正式发布双方共同研发的全球首个知识增强千亿大模型——鹏城-百度·文心(模型版本号:ERNIE 3.0 Titan),这是目前全球最大中文单体模型。
中国工程院院士、鹏城实验室主任高文表示,“预训练模型对整个科学的发展、社会的发展、创新的发展都是非常重要的工具。运用这个工具,可以帮助做很多人工智能的赋能,不局限于某个领域,这对人工智能的发展都是一个福音。”
百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰介绍,百度知识增强大模型从大规模知识和海量数据中融合学习,效率更高,效果更好,具有良好的可解释性。从2019年3月发布文心ERNIE 1.0,到最新的产业级知识增强大模型文心全景图,既包含基础通用的大模型,也包含面向重点领域、重点任务的大模型,以及丰富的工具与平台,有助于促进技术创新和产业发展。
中国工程院院士、鹏城实验室主任高文(左),百度首席技术官王海峰联合发布鹏城-百度·文心
据了解,鹏城-百度·文心模型参数规模达到2600亿,是“全球首个知识增强千亿大模型”,在机器阅读理解、文本分类、语义相似度计算等60多项任务取得最好效果,并在30余项小样本和零样本任务上刷新基准。这背后得益于鹏城实验室的算力系统“鹏城云脑Ⅱ”和飞桨深度学习平台的强强联手,解决了超大模型训练的多个公认技术难题,使鹏城-百度·文心训练效率大幅提升,模型效果更优。
“鹏城云脑Ⅱ”是国产自主的首个E级AI算力平台,曾在多个国际性能测试上获得冠军。飞桨是我国首个自主研发的深度学习开源开放平台,研制了端到端自适应分布式训练框架,实现多硬件支持,并行效率高达90%,有效支持鹏城-百度·文心千亿大模型高效、稳定地训练。
为促进产学研协“多轮驱动”,鹏城实验室与百度成立了鹏城-百度自然语言处理联合实验室,并以此为依托,资源共享、优势互补,在自然语言处理前沿研究和创新应用方面协同攻关。本次联合发布的鹏城-百度·文心将进一步解决 AI 技术在产业应用中缺乏领域和场景化数据等关键难题。
此外,本着“开源开放”的理念,该模型代码近期会在OpenI启智社区开源。百度文心也通过百度飞桨平台陆续对外开源开放,并已大规模应用于百度搜索、信息流、智能音箱等互联网产品,同时通过百度智能云赋能工业、能源、金融、通信、媒体、教育等各行各业。
风云必胜39集 http://www.xinzhiliao.com/zx/jiankang/13638.html- 标签:俄罗斯女孩毛片在线视频播放,尼卡一斛珠,wps表格数据恢复,
- 编辑:刘卓
- 相关文章
-
百度联合鹏城实验室发布全球最大中文单体模型,参数规模达2600亿
12月8日消息,鹏城实验室与百度联合召开发布会,正式发布双方共同研发的全球首个知识增…
-
格力被判赔奥克斯1.67亿元,因侵犯专利
邵涵怡 12月8日消息,格力被判赔奥克斯1.67亿元,因侵犯专利。 据报道,近日两份浙江省宁波…
- 速览 | OPPO将发首款自研芯片:或采用6nm工艺,芯片团队近2000人
- 【科技早报】斗鱼联创张文明辞职;iPhone 13系列产量低于计划20%
- 小度继续布局家庭大屏场景,推出智能健身镜和第二款智能摄像头电视
- 清华大学AIR院长张亚勤:节能减排是当务之急,AI赋能绿色计算和双碳大有可为
- 远光 | 两个“老三”争第一,小米与荣耀的新中场战事