神州数码联南宫28平台合华为打造昇腾能力中心聚焦边缘推理应用 最前线

  新闻资讯     |      2024-09-22 06:09

  9月19日,神州数码宣布合作华为打造基于华为昇腾310处理器的昇腾能力中心,该能力中心将AI芯片销售、软硬件开发于一体,可针对不同行业的AI推理场景需求,提供AI产品开发环境。

  大模型对算力需求整体体现在预训练、推理、调优三部分,其中通过推理,开发人员可定位模型中潜在问题,提升模型性能。

  随着模型越发庞大,对推理算力需求也将持续增长。华为昇腾计算整机业务总监胡宣春表示:“AI正在从感知识别迈向内容生成,从专用AI模型转向更为广泛的通用AI模型。AI应用的爆发式增长,可能带动AI推理算力需求激增至训练算力的百倍。”

  IDC 数据显示,南宫28APP我国23H1训练工作负载的服务器占比达到 49.4%,预计全年的占比将达到 58.7%。随着训练模型的完善与成熟,模型和应用产品逐步投入生产,推理端的人工智能服务器占比将随之攀升,预计2027 年,用于推理的工作负载将达到72.6%。

  神州数码信创业务集团副总裁、研发中心总经理周川告诉36氪,以前的推理以中心推理为主,南宫28APP而现在的推理应用更多在边缘侧,后者对算力需求相对更大。因此有必要推出更大算力、基于边缘推理应用的参考设计方案。

  因此,神州鲲泰计划与华为合作推出昇腾能力中心,南宫28APP为不同行业的客户提供产品软硬件的设计能力以及应用迁移适配调优的能力,缩短客户产品上市时间。

  公开资料显示,神州数码集团于2019年加入华为鲲鹏生态,2020年发布自有品牌“神州鲲泰”,已推出数据计算、终端、DCN数据通信、KunTai数据通信四条产品线。

  周川认为,由于基础设施不断建设,训练模型最终会变成应用落地,训练的高峰发展期可能即将结束。由于许多客户的数据十分敏感,不能流通,因此有着本地建设推理中心的推理需求,推理侧将存在大量建设、应用机会。

  他表示,不同行业的推理应用形态不一,华为难以支撑所有客户应用需求,神州数码的昇腾能力中心可以帮助华为覆盖中小型客户,这是神州数码对比友商的最大差异点与优势。