2023年2月28日,世界移动通信大会(MWC 2023)期间,中国电信&华为2023云网核心能力创新成果全球发布会上,中国电信携手华为发布星河AI统一推理框架。
星河AI统一推理框架,专注AI算法开发和性能提升,实现底层异构算力协同,带来效率和性能大幅提升。
随着人工智能产业不断发展壮大,多样化算力需求场景不断涌现,AI在行业逐步渗透,AI处理器层出不穷,包括擅长图形运算的GPU、专注于更高效人工智能神经网络处理的NPU等。实际业务应用过程中,底层的AI异构计算平台多,API接口不统一,呈现烟囱式的应用开发,导致AI应用开发门槛高、代码维护成本高。
中国电信科技创新部副总经理 罗锐
“通过星河AI统一推理框架,根据不同硬件底层接口,向上将推理业务流抽象封装出业务功能模块接口,开发者只需要关注业务逻辑,无需关注底层硬件接口。”中国电信科技创新部副总经理罗锐在发布会上这样说到。
中国电信数字智能科技分公司AI研发中心高性能计算技术总监 朱庆军
从底层技术实现维度,中国电信数字智能科技分公司AI研发中心高性能计算技术总监朱庆军给出专业的答复:“星河AI统一推理框架致力于提升AI开发效率及性能提升,上层基于电信AI业务场景开发的技术沉淀,下层依托昇腾推理开发使能套件,快速实现AI应用开发,支持云边协同,业务部署达成小时级一键部署“。当前基于该平台已完成90%以上自研CV应用的开发,超过1000+AI算法完成适配迁移,助力500多个产业数字化项目落地。
在AI开发过程中,通过软硬件协同优化提升整体业务流性能。主要包括基于昇腾的视图解析硬件加速方案、模型算子加速库等,结合电信在业务流的优化处理方案,端到端提升AI应用性能。其中,CV类业务流性能提升约1.4~2倍,单纯视频解码场景性能提升2~3倍,图片解码场景性能提升1.5~2倍。
在实际应用中,通过星河AI统一推理框架,上层AI应用一处开发,云边多硬件平台部署,通过统一业务层接口,快速汇聚AI生态,推动多场景方案落地。
为应对AI长尾场景,中国电信联合华为及业界伙伴,依托星河AI统一推理框架,发挥中国电信算网资源优势,协同昇腾AI生态成果,快速孵化更多场景方案,吸引更多伙伴入驻,构筑面向未来自演进的电信AI生态。当前已有100+个生态伙伴,5000+算法,联合孵化出智慧城市、社会治理、明厨亮灶等10+场景化综合信息解决方案,支撑500多个产业数字化项目落地。
面向未来,依托星河AI统一推理框架,中国电信携手华为及业界伙伴,将持续丰富AI生态体系,不断升级星河AI能力,共同为千行百业提供融云、安全、AI等的数字化产品和服务。