腾讯混元Hy3发布 英特尔已完成至强6适配优化
目前,腾讯英特尔已在SGLang主分支完成针对腾讯混元Hy3与至强6处理器硬件特性的混元专属优化,以最大化发挥这款处理器平台的发布算力与带宽优势。
【PChome消息】7 月6 日,英特优化腾讯新一代自研通用多模态大模型混元Hy3正式发布并开源。尔已相比preview版本,完成它展现出显著强于同尺寸模型且比肩(参数规模2—5倍的至强)旗舰模型的智能水平,不仅延续了清晰陡峭的适配能力增长曲线,并且通过进一步提升后训练的腾讯算力规模以及数据质量和多样性,在各类任务上再次跃升,混元以较小尺寸首次比肩国内外大尺寸旗舰模型的发布效果。

英特尔作为混元模型在算力平台领域的重要合作伙伴,也在第一时间完成了Hy3在至强6处理器与Gaudi 2E AI 加速器平台上的尔已适配与优化, 以实际行动来加速优质开源大模型在产业应用中的快速落地。
此次英特尔对Hy3的完成快速支持与适配优化,包含了针对该模型中多个关键组件与算子的至强优化,这让至强6处理器平台能够通过充分释放其内置的英特尔AMX(高级矩阵扩展)技术的潜能,为该模型提供更为高效且强劲的推理加速支撑,进而可在推荐配置下,仅使用单台至强6 服务器即可部署总参数295B、BF16精度的满血版Hy3模型。
目前,英特尔已在SGLang主分支完成针对Hy3与至强6处理器硬件特性的专属优化,以最大化发挥这款处理器平台的算力与带宽优势。
相关文章:
相关推荐:
- 好评不断,市场新宠!三大优势,助力天惠奶啤畅销市场!
- 阿德砍21+12伦纳德19分 邓肯缺阵马刺大胜太阳
- 本週重點回顧:美國升息三碼、台灣PMI連4個月緊縮、殖利率倒掛|天下雜誌
- 2019年8月26日国内纯碱企业价格汇总,产业数据
- 毛利缩水?这款玻璃瓶杏仁露帮经销商跳出价格战泥潭!
- 黑马产品!突袭中秋礼品市场,利润大,销量高,错过后悔莫及!
- 不要只怪景氣!Netflix、Uber、Snap這麼慘,都逃不了3大關鍵問題|天下雜誌
- 同安举行无偿献血志愿活动 首场136人共献血3.4万毫升
- 45岁可以买的重疾险,2022年45岁可以买的重疾险
- 各地区玻璃行情以小幅上涨为主,价格处合理范围之内,行业资讯
