中科曙光胡晓东:AI基础设施发展趋势指向低能耗计算 将关注开发环境迁移需求|直击WAIC 2024

要闻 2024-07-09 08:53:25
导读 《科创板日报》7月6日讯(记者 郭辉)2024世界人工智能大会(WAIC 2024)期间,AI大模型、算力基础设施、先进产业应用等多方共襄盛举。到...
2024-07-09 08:53:25

《科创板日报》7月6日讯(记者 郭辉)2024世界人工智能大会(WAIC 2024)期间,AI大模型、算力基础设施、先进产业应用等多方共襄盛举。到今年为止,WAIC已经成功举办六届,大会的规格和内容丰富性不断提升,并且最近两年AIGC技术实现突破,WAIC也成为产业变化突出展示的窗口。

“AI持续火爆,今年(WAIC)跟去年相比,明显感受到AI进入到了多元化的应用阶段”。中科曙光智能计算产品事业部副总经理胡晓东在WAIC举行期间,接受了《科创板日报》记者的专访。胡晓东表示,之前AI的To B端应用距离个人生活很远,现在各大厂商参与进来,AI活跃并深入到了社会生活的方方面面,比如基础教育、机器智能的发展等。

据胡晓东介绍,在本届WAIC,中科曙光展台的展出亮点包括从硬件到软件的整体解决方案,比如硬件服务器及整机等各种产品,涵盖了从端侧到中心侧、再到云侧的不同应用体系,同时中科曙光今年也带来了丰富的软件产品。

在胡晓东看来,AI应用爆发的一个显著特征是,AI大模型数量增多、模型参数量增长,因此对底层的硬件基础设施需求量增长。英伟达CEO黄仁勋曾经说过,AI的尽头是光伏和储能,其意即当下应关注低能耗算力的发展和建设。

胡晓东也表示,AI基础设施技术发展,首先要解决的就是低能耗计算的发展要求。

“这次的WAIC上,中科曙光带来液冷工作站、液冷基础服务器、液冷整机柜和整套液冷数据中心方案,能够通过对新型液冷技术的引入,提升AI等数字技术的整体能源利用效率,并发展新型的绿色算力基础设施,在有限能源范围之内,更好提供算力、更好服务上层不同的应用平台。”胡晓东如是称。

在硬件设施之外,计算中心的软件生态也是助力大模型应用发展的重要环节。“现在很多AI开发者都在切换国产化开发环境,很多人关心迁移成本的问题,关心能否短时间内对不同国产卡进行迁移,以及在业务系统迁移完成后,是否能够建立稳定、高效、持续的运营。”

据胡晓东介绍,中科曙光在平台层,也在尝试为开发者解决此类后顾之忧,实现对不同品牌的算力卡和资源池进行统一纳管,从底层硬件、基础软件栈,到开发中台、信息化工具,提供整套软件解决方案。

胡晓东认为,从去年国产大模型厂商冲击基础模型的参数量,到今年,各家大模型已经到了在各个垂直领域深化发展的阶段,“这对底层的软硬件都提出了更高的需求,对中科曙光而言,需要提供更多上层服务”。

“曙光在传统硬件业务之外,也在针对软件开发和模型应用提供不同工具套件和开发支持”。胡晓东表示,曙光正在与企业客户一同合作,整合国产算力平台、基础硬件模型、行业数据,帮助大模型在不同行业实现向深化应用和顺利落地的跨越。

(财联社记者 郭辉)
免责声明:本文由用户上传,如有侵权请联系删除!