首页 国内 国际 社会 军事 科技 财经 体育 娱乐
首页 采集科技文章 返回首页

腾讯混元 AI Infra 新开源:HPC-Ops 推理核心算子全面升级|hpc|ops|知名企业

每经AI快讯,6月11日,据腾讯混元官微消息,为了进一步满足推理系统对动态业务负载的适应性、核心模块对复杂精度和高性能融合算子的需求,HPC-Ops 推出全新更新开源升级,包含五大关键算子。本次升级在主流推理平台上,有效缓解了Attention长尾延迟、显存搬运开销、跨卡通信等实际工程瓶颈,多项性能指标显著优于现有的开源基线。HPC-Ops 是腾讯混元 AI Infra 团队开源并长期维护的一套工业级、高性能的大模型推理底层算子库。

📚 相关阅读

• 中国工程院院士、导弹专家冯煜芳逝世|国防科技大学|航天科技集团
• 2.11倍,中国大模型再超美国!全球AI大模型Token调用榜出炉|token
• 加密货币深夜全线跳水|海峡|暗盘|特朗普
• 谷歌据悉正与SpaceX就在轨数据中心发射计划进行谈判|火箭发射|知名企业|spacex|太空探索技术公司
• 机器人租赁平台擎天租官宣出海动作,首批业务落地13国
• 低轨卫星互联网迎利好,美国拟放宽频谱功率限制,宽带容量有望提升7倍;长六改火箭成功发射卫星互联网低轨21组卫星 ——《投资早参》|通信