英博数科发布英博云，加码GPU容器服务

2024/12/20 9:48:33 企业供稿

随着AIGC驱动智能算力需求爆发，英博数科凭借深厚的技术积累和市场洞察，推出了英博云多款GPU智算产品和服务，全面迎接算力市场的变革。近日，英博数科高层在与媒体交流时，详细解析了大模型产业趋势、算力市场的三大变化及英博云的差异化优势。

大模型驱动算力市场三大变化

2023年，全球算力规模达910EFLOPS，同比增长40%，其中智能算力增长136%，远超整体增速。然而，大模型爆发带来的算力需求正经历深刻的结构性变化。英博数科CEO浦威指出，算力市场的主线逻辑已发生三大变化：

通用大模型训练规模扩大：

从千卡集群迈向万卡甚至十万卡集群，成为大模型迭代的基础门槛。国内外科技巨头如OpenAI、xAI、字节跳动、阿里巴巴等纷纷部署大规模智算中心，推动了万卡级别集群的普及。

垂直大模型需求弹性化：

在科研、金融、零售、影视等领域，算力需求呈现分散性和动态性，逐步从定量向弹性模式转变。企业在进行模型微调时对算力需求波动较大，因此更青睐按需分配的弹性算力方案。

算力需求从训练转向推理：

随着大模型商业化落地和多模态模型普及，推理场景的算力需求快速增长。预计到2027年，中国AI服务器推理工作负载将占72.6%。推理算力要求更快的响应速度和灵活性，以满足实时业务需求，如客服对话、文本生成和视频生成等。

英博云：高效、弹性算力解决方案

面对市场新需求，英博数科通过英博云推出了覆盖大规模集群和弹性算力的多样化解决方案。

定制化智算中心建设：

面向大模型头部客户，提供从集群选型、建设、运维到整体交付的全流程解决方案，满足万卡级别训练需求，确保集群稳定高效运行。

GPU容器服务：

针对中小型企业的弹性需求，英博云提供VCluster形式的GPU和CPU混合资源服务，支持按小时、按分钟计费，有效控制成本，提升算力利用率。

先进算力实验室：

为客户提供主流算力卡和设备的测评，优化算力配置。例如，某3D视频生成企业通过英博云的建议，将训练设备从A卡更换为H卡，效率提升超过两倍，显著降低成本。

单位有效算力成本：评估算力效率的新标杆

为解决算力资源浪费和GPU卡闲置问题，英博云提出了**“单位有效算力成本”**的评估框架。该标准通过算力投入成本（设备、机电、运维）与有效算力（装机算力、卡可用率、卡利用率、模型算力利用率）的比值，帮助企业精准衡量算力使用效率。

英博数科副总裁秦伟俊强调：“我们从IDC建设、运维折损、模型训练效率等全链条进行优化，确保客户的每一份算力投资都能物尽其用。”

应对算力市场新挑战

英博数科CTO李少鹏指出，万卡及十万卡集群并行训练是当前智算领域的重要挑战，需要解决计算网络搭建、设备选型、机房环境等难题。英博数科凭借丰富的集群建设经验，在这一领域具备显著优势。

同时，李少鹏强调，随着长尾客户逐渐成为算力服务的主要消费群体，弹性算力服务将成为他们的选择，推动智能算力行业向高效、低成本的新阶段迈进。

产业孵化与生态构建

在资本密集型的智算中心建设领域，英博数科不仅专注于自身技术提升，还通过产业孵化器扶持AI垂直应用企业。从资金、算力、人才培养等方面提供支持，推动AI应用生态的繁荣发展。

副总裁宋琛表示，随着大模型应用向垂直领域渗透，未来的市场机会更多来自中小型客户。英博云通过灵活定制服务，精准填补了GPU算力云市场的细分空白。

面对智算市场的快速变化，英博数科凭借英博云的创新产品和前瞻战略，助力企业在大模型时代实现算力资源的高效利用。通过定制化服务、弹性算力方案和先进算力评估标准，英博数科正引领智算产业向高效化、智能化和普惠化迈进，为AI技术的广泛应用提供强有力支撑。

英博数科