新闻资讯
威能(Vaillant)官方售后服务中心 > 新闻资讯 >H800国内首发 腾讯云发布最新高性能计算集群
4月14日,腾讯云正式发布新一代HCC(High-Performance Computing Cluster)高性能计算集群。该集群采用腾讯云星星海自研服务器,搭载英伟达最新代次H800 GPU,服务器之间采用业界最高的3.2T超高互联带宽,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。
实测显示,腾讯云新一代集群的算力性能较前代提升高达3倍,是国内性能最强的大模型计算集群。
2022年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于新一代集群,训练时间将进一步缩短至4天。
大模型进入万亿参数时代,单体服务器算力有限,需要将大量服务器通过高性能网络相连,打造大规模算力集群。通过对处理器、网络架构和存储性能的全面优化,腾讯云攻克了大集群场景下的算力损耗问题,能为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。
网络层面,计算节点间存在海量的数据交互需求,随着集群规模扩大,通信性能会直接影响训练效率。腾讯自研的星脉网络,为新一代集群带来了业界最高的3.2T的超高通信带宽。实测结果显示,搭载同样的GPU卡,3.2T星脉网络相较前代网络,能让集群整体算力提升20%,使得超大算力集群仍然能保持优秀的通信开销比和吞吐性能。并提供单集群高达十万卡级别的组网规模,支持更大规模的大模型训练及推理。
存储层面,几千台计算节点同时读取一批数据集,需要尽可能缩短加载时长。腾讯云自研的文件存储、对象存储架构,具备TB级吞吐能力和千万级IOPS,充分满足大模型训练的大数据量存储要求。
底层架构之上,针对大模型训练场景,新一代集群集成了腾讯云自研的TACO Train训练加速引擎,对网络协议、通信策略、AI框架、模型编译进行大量系统级优化,大幅节约训练调优和算力成本。
腾讯混元大模型背后的训练框架AngelPTM,也已通过腾讯云对外提供服务,帮助企业加速大模型落地。
目前,腾讯混元AI大模型,已经覆盖了自然语言处理、计算机视觉、多模态等基础模型和众多行业、领域模型。
在腾讯云上,企业基于TI平台的大模型能力和工具箱,可结合产业场景数据进行精调训练,提升生产效率,快速创建和部署AI 应用。
此前,腾讯多款自研芯片已经量产。其中,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用,性能指标和综合性价比显著优于业界。其中,紫霄采用自研存算架构,增加片上内存容量并使用更先进的内存技术,消除访存能力不足制约芯片性能的问题,同时内置集成腾讯自研加速模块,减少与CPU握手等待时间。目前,紫霄已经在腾讯头部业务规模部署,提供高达3倍的计算加速性能,和超过45%的整体成本节省。
目前,腾讯云的分布式云原生调度总规模超过1.5亿核,并提供16 EFLOPS(每秒1600亿亿次浮点运算)的智算算力。未来,新一代集群不仅能服务于大模型训练,还将在自动驾驶、科学计算、自然语言处理等场景中充分应用。
以新一代集群为标志,基于自研芯片、星星海自研服务器和分布式云操作系统遨驰,腾讯云正通过软硬一体的方式,打造面向AIGC的高性能智算网络,持续加速全社会云上创新。
(8158755)
- 相关
- 排行
- 04-28格力柜机代码h1(如何正确解决错误代码h1)
- 06-23多图|近500围!广州猎德村最大规模端午龙船饭开席
- 06-05天津河东威能壁挂炉售后服务中心(威能壁挂炉的类型)
- 08-26空调停机代码12(如何解决空调停机问题)。
- 06-08国产最强量子计算机“悟空”7月有望发布:传统芯片千倍性能提升 !
- 06-16美的5P空调P6故障代码(如何解决空调显示P6故障代码)
- 10-05上海三星家电企业品牌月,买新款冰箱享洗衣机购买优惠
- 07-12西安莲湖威能壁挂炉官方维修电话(威能壁挂炉出现e1怎么办啊)
- 01-04无锡威能热水器服务电话(威能电热水器常见故障的检修)
- 08-20空调冷气hs是什么意思(详解空调常见故障代码)。
- 02-21空调清洗方法与清洗步骤大全
- 12-29常见的检测空调噪音的四种方法
- 04-09上海八圆家电空调维修公司:空调移机制冷剂回收方
- 03-21上海虹口区空调维修-避开这几点使空调的寿命更
- 03-21上海虹口区空调清洗服务-空调清洗流程与需要注
- 04-24上海八圆家电空调维修公司:空调通电几分钟后整机
- 12-28办公楼中央空调改造方案
- 01-16大金 空调3MXS80EV2C 防冻结保护处理办法
- 12-27空调有风但不制冷是啥原因?
- 09-17 为什么空调关闭后室内机仍然会出风?
联系我们
官网:威能壁挂炉维修中心
地址:北京市海淀区学院路甲6号
电话:400-138-6178
- 相关
- 排行
- 02-21空调清洗方法与清洗步骤大全
- 12-29常见的检测空调噪音的四种方法
- 04-09上海八圆家电空调维修公司:空调移机制冷剂回收方
- 03-21上海虹口区空调维修-避开这几点使空调的寿命更
- 03-21上海虹口区空调清洗服务-空调清洗流程与需要注
- 04-24上海八圆家电空调维修公司:空调通电几分钟后整机