浇铸天翼云智算底座,谱写大模型时代新乐章
2023-11-24
为“数字中国”夯实智算底座
海纳视联大模型,是由天翼云科技有限公司,天翼视联科技有限公司、天翼数字生活科技有限公司、联合研发的视联行业大模型。
天翼视联是中国电信承接“数字中国”战略,顺应数字化发展打造的第五张基础网络,目前接入的设备总数已经超过了6000万台。通过泛在视频终端接入、视频调度、云端存储和AI应用等能力,天翼视联服务于家庭、乡村、社区、行业治理等诸多领域。
海纳视联大模型构筑于天翼云智算底座之上,是对天翼视联产品体系的一次全面升级。通过对上亿量级训练数据进行学习,海纳视联大模型拥有百亿量级模型参数,具有5000类标签识别、智能检索、视频分析理解、视觉超分等多项核心能力。
业界领先的各项指标,意味着海纳视联大模型能够快速实现高效计算,完成各种复杂任务的处理工作,赋能包括城市治理、行业视觉、社区乡村、数字家庭等在内的四大类场景,为“数字中国”的宏伟蓝图添墨加彩。
以城市治理为例,海纳视联大模型可以高效实现对视频流的分析,自动生成标签、快速精准定位,帮助管理者实时发现城市中的异常现象,以及可能的潜在风险,最终做到防患于未然。
再比如电视报纸经常说到的“银发经济”,随着国民寿命的不断增加,我国的养老陪护会逐渐成为一个庞大无比的产业,海纳视联大模型必然可以大有作为,打造出家庭智能新范式。
作为国内领先的视联行业应用型大模型,海纳视联大模型构建了开放融合的新生态,以创新的数字技术和解决方案赋能千行百业,服务千家万户,让数字红利惠及到每个人,夯实“数字中国”底座。
破解大模型“算力”之渴
海纳视联大模型的底座是天翼云一站式智算服务平台“慧聚”,这也是天翼云通过系统性的软硬一体优化,针对大模型行业需求及应用落地的“集大成者”,在易用性、功能性、安全性,以及成本等方面为客户做出了全盘的考虑。
通过对大模型开发训练过程中的关键流程、复杂技术与实践经验进行总结和抽取,“慧聚”平台构建出一条全周期、一站式、全链路的大模型生产流水线,大幅降低大模型训练、微调、部署、推理的门槛,让客户能够更专注于模型升级和应用落地。
“慧聚”平台基于数据平台、模型开发平台、模型服务平台和应用服务平台四大平台,提供数据准备、模型开发、任务管理、模型优化等多个产品功能模块,功能与组件之间可以灵活组装,帮助用户打造针对不同场景的专属工具集。
在大模型时代,算力平台的价值与日俱增。对于广大机构和企业而言,高效的智算平台不仅可以节省不菲的成本,更重要的是可以更快实现模型落地,从而抢占市场先机。
点亮行业智能未来之路
我们知道,大模型算力平台的涉及面非常广,包括了计算、网络、存储、框架等在内,任何一种资源的使用效率均会波及算力平台的效率,进而影响到大模型的训练进度和部署效率。
天翼云在算力平台趋向一致的通用能力之外,持续不断的技术创新与突破,才是大模型应用落地、加快人工智能融合更多应用场景和行业的关键因素。
有鉴于此,“慧聚”智算平台在算力调度层构建了合理灵活的任务的分配和调度策略,同时对底层的GPU和IB、NVlink等网络进行感知,实时获取GPU和网络的状态,为任务的分配和调度奠定基础,起到呈上启下的核心作用。
正因为如此,“慧聚”智算平台能够在底层硬件故障之后快速重新调度,实现断点续训——不让故障前的训练成果归零,既是对训练任务进度的全面加持,也是对客户整体投资的重要保障。
此外,截止到现在,天翼云全国部署4.7EFLOPs AI算力。