寂静回声 发表于 2024-11-23 15:10:06

大量算力闲置!

近年来,智算中心的建设与发展备受瞩目。据统计,截至2024年上半年,中国已建成或在建的智算中心数量已超过250个,且相关招投标活动呈现显著增长,同比增幅高达407.1%。

这表明智算中心的建设在全国范围内得到了广泛的关注和支持。从2023年开始,各地政府加大了对智算中心的投资力度,推动了基础设施的发展。

然而,尽管智算中心的建设如火如荼,但大模型市场却显得相对冷清。截至2024年10月9日,就有188个大模型通过了网信办的生成式人工智能备案,并具备上线提供服务的资格。然而,在这188个大模型中,超过三成在备案后并未进一步公开其进展情况,仅有一成仍在加速训练模型,而接近一半则转向了AI应用的开发。

这种市场冷清的现状直接导致了算力资源的严重浪费,据统计,国内上线的智算中心共计提供了17亿片GPU卡的算力,但实际使用量却仅为5.6亿片,算力利用率仅为32%。这一数据不仅反映了算力资源使用不均衡的现状,也凸显了算力资源浪费的严峻问题。

值得注意的是,不同级别的智算中心在资源利用率上也存在显著差异。以企业为主要用户的通用算力中心利用率普遍较低,仅为10%~15%。而国家级、大厂级的智算中心资源利用率则相对较高,但即便如此,在我国算力中心中也仅占少数。例如,西安昇腾智能科技有限公司的人工智算中心算力使用率高达98.5%,国家超级计算深圳中心和国家超级计算济南中心的资源利用率也较高。然而,这些高效利用的智算中心并不能掩盖整体算力资源浪费的严峻事实。

此外,算力瓶颈不仅体现在数量上,更核心的问题在于智能运维、调度技术的滞后。这一技术的滞后进一步加剧了算力资源的浪费问题,使得众多智算中心无法充分发挥其应有的效能。因此,如何提升算力资源的利用率、优化智能运维和调度技术,成为当前亟待解决的问题。
页: [1]
查看完整版本: 大量算力闲置!