腾讯混元Hy3发布 英特尔已完成至强6适配优化

目前,英特尔已在SGLang主分支完成针对腾讯混元Hy3与至强6处理器硬件特性的专属优化,以最大化发挥这款处理器平台的算力与带宽优势。

【PChome消息】7 月6 日,腾讯新一代自研通用多模态大模型混元Hy3正式发布并开源。相比preview版本,它展现出显著强于同尺寸模型且比肩(参数规模2—5倍的)旗舰模型的智能水平,不仅延续了清晰陡峭的能力增长曲线,并且通过进一步提升后训练的算力规模以及数据质量和多样性,在各类任务上再次跃升,以较小尺寸首次比肩国内外大尺寸旗舰模型的效果。

英特尔作为混元模型在算力平台领域的重要合作伙伴,也在第一时间完成了Hy3在至强6处理器与Gaudi 2E AI 加速器平台上的适配与优化, 以实际行动来加速优质开源大模型在产业应用中的快速落地。

此次英特尔对Hy3的快速支持与适配优化,包含了针对该模型中多个关键组件与算子的优化,这让至强6处理器平台能够通过充分释放其内置的英特尔AMX(高级矩阵扩展)技术的潜能,为该模型提供更为高效且强劲的推理加速支撑,进而可在推荐配置下,仅使用单台至强6 服务器即可部署总参数295B、BF16精度的满血版Hy3模型。

目前,英特尔已在SGLang主分支完成针对Hy3与至强6处理器硬件特性的专属优化,以最大化发挥这款处理器平台的算力与带宽优势。

也许你还喜欢

《阴阳师妖怪屋》全新版本即将开启

夜色昏暗,树影幢幢,为宝物而来的猎人从林间穿过。到处躲藏的以津真天,再次逃过

崩坏星穹铁道隐藏任务碰瓷的关刀怎

崩坏星穹铁道隐藏任务碰瓷的关刀如何通关?崩坏星穹铁道隐藏任务碰瓷的关刀通关有

艾尔登法环瑟利亚镇进入方法攻略

《艾尔登法环》中有一个瑟利亚镇,很多人都不知道如何进入这个地区。

《模拟城市:我是市长》莺歌燕舞版本

天气转暖,正是外出郊游感受明媚阳光的好时候。而《模拟城市:我是市长》也将于近

618手机大盘承压 OPPO份额持平苹果

市场调研机构Counterpoint发布了618期间(22 周-

尘殒孑遗《决战平安京》黑童子全新

深邃晶石重塑的天使之躯,却容纳着残缺不堪的灵魂,月光唤醒癫狂,贪婪蚕食美梦,

以下哪种树是我国特有物种有植物界

以下哪种树是我国特有物种有植物界活化石之称 银杏 檀香?2023年4月20日

魔兽世界9.2巨型降祸噬渊鼠坐骑获

《魔兽世界》巨型降祸噬渊鼠是9.2版本新出的坐骑,很多玩家都想要

《非人学园》金角天选手册时装【太

雷雷给大家带来了新时装:金角天选手册时装【太空饲育员】即将上新。第n次在战

你知道吗老抽酱油的老是指 酿造时

你知道吗老抽酱油的老是指 酿造时间更长 酿造方法古老?2023年4月20日鸡