热门搜索

搜索历史清空

智通财经

连线全球资本市场。

第一上海:腾讯发布星脉网络2.0 AI大模型训练效率提升20%

智通财经网 2024-07-03 16:54 2.7w阅读

第一上海发布研究报告称,7月1日,腾讯(00700)宣布对其自主研发的星脉高性能计算网络进行了全面升级。升级版星脉网络2.0配备了腾讯自主研发的网络设备和AI算力网卡,能够支持超过10万卡的大规模网络构建。与前一代相比,新网络的通信效率提高了60%,进而使得大型模型的训练效率提升20%。

报告中称,腾讯自研星脉网络是一套软硬协同的高性能网络体系,包括自研网络设备、通信协议TITA、通信库TCCL以及GOM&GOA运营系统四大关键组件,每个组件均采用了业界首创的腾讯核心技术。TITA 2.0升级为主动拥塞控制算法,可主动调整数据包发送速率,从而避免网络拥堵;并通过拥堵智能调度,实现网络拥塞快速自愈。TCCL通信库,对NVLINK+NET异构并行通信、Auto-Tune Network Expert自适应算法等进行升级。两者升级带来的效果叠加,让星脉网络的通信效率提升60%,MoE大模型训练效率提升20%。

来源:智通财经网

重要提示: 本文仅代表作者个人观点,并不代表乐居财经立场。本文旨在为满足广大用户的信息需求而采集提供,并非商业性或盈利性用途。任何单位或个人认为本文来源标注有误,或涉嫌侵犯其知识产权等相关权利的,请提供身份证明、权属证明及详细侵权情况证明等相关资料,点击【联系客服】或发邮件至【ljcj@leju.com】,我们将及时审核处理。

24小时热门文章

更多热读

最新文章

更多原创

评论

点击下载App参与更多互动

前往乐居财经APP查看原文,体验更佳

榜单