第七届集微半导体峰会于6月初在厦门成功举办，上海天数智芯半导体有限公司（以下简称“天数智芯”）产品线总裁邹翾受邀参加“集微通用芯片行业应用峰会”，发表了题为“国产GPU助力大模型的实践”的主题演讲，全面介绍了天数智芯基于自研通用GPU的全栈式集群解决方案及其在支持大模型上的具体实践。

天数智芯产品线总裁邹翾

邹翾指出，顺应大模型的发展潮流，天数智芯依托通用GPU架构，从训练和推理两个角度为客户提供支撑，全力打造高性价比、通用性的全栈式集群解决方案，为大模型时代提供强大算力底座。

据介绍，天数智芯的天垓、智铠系列通用GPU产品具有高性能、广通用、开发成本低的特点，广泛支持DeepSpeed、Colossal、BM Train等各种大模型框架，基于天垓、智铠加速卡的算力集群方案不仅能够有效支持LLaMa、GPT-2、CPM、GLM等主流AIGC大模型的Pretrain和Finetune，还适配了清华、智源、复旦等在内的国内多个研究机构的开源项目，为行业伙伴提供一站式的大模型算力及赋能服务。同时面向大模型推理侧的一体机，性价比超过国内现有市场主流产品。

为全面助力大模型的发展，天数智芯还围绕底层技术支撑做了大量功课。邹翾介绍说，一方面天数智芯通过最大化数据复用、可扩展大矩阵计算和存算异步、混合精度Transformer加速、高效高带宽显存及P2P等方式来提升芯片性能。另一方面，持续提升基础软件实力，在支持前沿大模型、混合并行策略、新型Att加速、兼容APIs、模型压缩等轻量化部署方面开展布局。

邹翾表示，不论从应用还是研发角度来看，大模型需求会持续走高，天数智芯将坚持以服务国家战略为主线，始终致力于自主开发用户易用的高性能通用GPU产品，不断升级算力解决方案，适配支持更高效、更复杂算法的大模型，为我国大模型创新发展、应用落地提供更加坚实的算力支撑。

关于天数智芯

上海天数智芯半导体有限公司（简称“天数智芯”）是中国领先的通用GPU 高端芯片及超级算力系统提供商。天数智芯致力于开发自主可控、国际领先的高性能通用GPU产品，探索通用GPU赶超发展道路，加快建设自主产业生态，为全产业提供高端算力解决方案。未来，天数智芯将坚持中国特色的自主自强创新发展道路，打造更可信、更高效、更绿色的世界一流算力引擎，赋能千行百业数字化转型，促进我国数字经济高质量发展。