APP下载

超大规模智能模型“悟道2.0”发布

2021-07-31

传感器世界 2021年6期
关键词:人工智能文本智能

2021年6月1日,在“2021北京智源大会”开幕式上,北京智源人工智能研究院发布了“悟道2.0”模型。这是全球迄今最大的超大规模智能模型。

目前,“大模型+大算力”是迈向通用人工智能的一条可行路径。大模型对于人工智能发展具有重大意义,未来将基于大模型形成类似电网的变革性AI产业基础设施。AI大模型将数据转换为智能能力,驱动各种AI应用。如果将大模型和所有的AI应用相连接,为用户提供统一的智能能力,全社会将形成一个智能能力生产和使用的网络,即“智网”。大模型就是下一个AI的基础平台,是未来AI发展的战略基础设施。

“悟道2.0”模型的参数规模达到1.75万亿,是GPT-3的10倍,打破了之前由国外预训练模型创造的1.6万亿参数记录,是目前中国首个、全球最大的万亿级模型。

“悟道2.0”模型在中英双语共4.9 T的高质量大规模清洗数据上进行的训练。训练数据包含WuDaoCorpora中的1.2 TB中文文本数据、2.5 TB中文图文数据,以及Pile数据集的1.2 TB英文文本数据。“悟道2.0”模型一统文本与视觉两大阵地,支撑更多任务,更加通用化。

本次大会上,智源研究院与新华社、美团、小米、快手、搜狗、360、寒武纪、第四范式、好未来、智谱华章等22家“悟道”大模型产业生态战略合作单位进行了签约,并发出组建“悟道”大模型技术创新生态联盟的倡议,吸引更多企业加入,将以联盟为枢纽,以企业需求为导向,推动模型研发,共同开发基于“悟道”大模型的智能应用,以模型研发和应用促进产业集聚。

猜你喜欢

人工智能文本智能
在808DA上文本显示的改善
2019:人工智能
智能前沿
基于doc2vec和TF-IDF的相似文本识别
智能前沿
智能前沿
智能前沿
人工智能与就业
数读人工智能
下一幕,人工智能!