free 商汤大安装昇腾原生开导实施：集群界限推广至3倍，线性加快比超97%

集群界限推广至 3 倍后线性加快比高达 97% 以上、102B 模子锻练性能达业界 120% 以上……这是商汤基于昇腾盘算推算生态的最新效果free。

近日，商汤大安装管事群研发总监张行程受邀出席华为全筹议大会 2024 并发饰演讲，带来了商汤大模子基于昇腾原生开导实施的主题分享。

 

大会上，海外泰斗数据机构 IDC 还发布了《AI 期间数据中心网罗白皮书》，其中先容了商汤与华为共同管制 Al 期间数据中心网罗开导挑战，以大界限接续性、智能负载平衡等智力，提魁伟界限集群蒙眬量，进步锻练服从，已矣 AI 大模子的快速迭代。

 

高效大模子原生开导

积年来，商汤基于昇腾盘算推算生态，共同股东基础模子、行业大模子期骗与改进。

举例，商汤通过高效并行、通讯优化及网罗架构感知和任务调养等软硬优化技艺，构建了大界限并行锻练加快系统，其中 102B 模子的锻练性能达到了业界的 120% 以上，同期单一任务集群界限推广至 3 倍，算力服从弃世仅为 3%。

基于昇腾盘算推算生态，商汤还开导长序列并行锻练加快机制，与业界比拟，4K 序列性能进步 1 倍以上，32K 序列性能握平，以致还能处理 128K 长序列锻练。

现在，商汤日日新大模子从底层软件栈的接入到基础框架优化、再到模子原生开导，在性能、流露性等要害参数方面跳跃业界。

提供端到端的大模子改进相沿

通过与昇腾团队相助，商汤将全栈大模子分娩智力居品化，构建了从基础层、模子层、串联层到期骗层的高效、完备、易用的大模子分娩器具链。

通过大模子分娩器具链，商汤大安装可为客户提供涵盖算力、软件平台部署及模子迁徙等端到端的大模子自主改进落地全经由业务管事。

 

不仅如斯，面向不同客户的特定期骗场景需求，商汤还可提供业务流联想、期骗编排、数据迭代等升值管事，助力客户从 0 到 1 成立好意思满的 AI 智力体系。

同期，针对客户不同的蒙眬量、部署界限等条款，商汤还会进行专项性能优化，匡助客户进行极致性价比进步，已矣资本效益最大化。

联袂共建敞开、分享的大模子改进生态

四播

从基础关节的构建，到大模子的残害，再到期骗的茁壮，商汤与华为一直是坚实伙伴。

此前，商汤大安装 AI 云、日日新 · 商榷大言语模子、商汤医疗大模子"大医"先后通过与 Atlas 系列管事器的互相兼容性测试，为客户提供更为安全、高效、可靠的东谈主工智能全栈管制决策和期骗体验。

商汤基础大模子、行业大模子基于昇腾原生开导，握续探索在技艺联创、产业共建等方面的相助，在本次华为全筹议大会上，商汤科技取得" 2024 昇腾生态最好实施伙伴奖"。

 

本年 7 月，商汤还获颁"最好昇腾原生开导伙伴奖"，以及昇腾"最初级期骗软件伙伴奖"， 展现了商汤在推动敞开、分享的大模子改进生态开导中的积极作用。

通过不断的技艺联创与资源分享，商汤将握续助力昇腾盘算推算生态发展，并联袂为客户提供愈加高效、浅薄的智算管事，推动 AI 在各行业的芜俚期骗与深化和会。

雷峰网free