
IT之家 12 月 12 日音书开云网站,据通讯产业网本日报说念,中国电信盘考院连结中国科学院估量手艺盘考所、华为昇腾、沐曦等,依托中国电信云网交融手艺中磨真金不怕火证平台,到手完成业界首个面向国产算力的跨架构大模子推理手艺考证。
中国电信盘考院牵头启动“Triton 长入跨架构推理框架”手艺攻关,通过自研 Triton 跨架构编译器与长入大模子算子库,已毕团结套算子源码在英伟达、昇腾、沐曦三类芯片上无缝运转。
本次手艺考证已完成 10 余款主流开源模子在三类芯片上的端到端推理测试,中枢主义推崇优异:
平均迁顷然辰≤3 天,较传统适配形态恶果进步超 80%;
精度时弊 < 0.5%,确保模子推理可靠性;
在同等蔓延抵制下,系统婉曲达到各芯片原生算子库的 90% 以上,已毕性能与适配恶果的双重优化。
此外,框架内置的 benchmark 与 Profiling 器用可一键生成跨芯性能对比论说,为业务方提供选芯方案相沿。
IT之家注:中国电信盘考院是中国电信集团下属研发机构开云网站,聚焦 6G、光收集、卫星通讯等限制中枢手艺攻关。
告白声明:文内含有的对外跳转邻接(包括不限于超邻接、二维码、口令等式样),用于传递更多信息,轻松甄选时辰,限制仅供参考,IT之家悉数著述均包含本声明。 ]article_adlist--> 声明:新浪网独家稿件,未经授权辞谢转载。 -->





