应用场景

SCENARIOS

智能语音

会议同传翻译、会议AI字幕、影视AI字幕、智能问答、智能客服等

应用挑战

CHALLENGES

快速适配、广泛支持

为确保准确性,模型需不定时更新,因此要求底层算力有快速适配、广泛支持的能力

 

实时翻译

通常要求低时延,基本达到实时翻译的程度

自动厘清逻辑

需要自动厘清上下文逻辑,正确分辨方言、缩略语、模糊指代等

智能类型场景

在智能问答、智能客服类型的场景中,需及时判别用户交流情绪,并作出正确引导

技术方案

TECHNICAL PROPOSAL

AI训练

 

基于天垓100通用GPU芯片,及多机分布式训练框架的支持,帮助客户完成ASR、NLP、TTS等模型的代码迁移及训练。

 

推理部署

 

实际任务部署时有串行、并行等不同的部署方式,且采用云边端协同的工作方式。云端负责大规模计算和调度,边缘端负责部署轻量级模型,将推理结果反馈给云端。以单任务串行为例,需要首先将语音、文本等非结构化数据做结构化处理,然后再基于不同任务的级联模型依次处理。

 

天数优势

ADVANTAGE

   
  • 基于天数产品软硬件的通用性优势,支持客户自定义算子,持续提高识别与翻译的准确性
  • 训推一体,便于云边任务协同
  • 时延低,满足实时处理需求
  • 在保证效果收敛的同时,平均效率媲美国际主流产品
  • 迁移周期更短,生态完善,支持快速部署