关于PG·电子(中国)
公司简介
公司历程
荣誉证书
新闻中心
研发支持
PG·电子(中国)官方网站 - 游戏官网
产品中心
产品测试方案
核心功能模块
产品解决方案
PG电子·(中国)官方网站
加入我们
联系我们
公司与办事处
商务合作
近日ღღ★，英博数科对外正式发布英博云多款GPU智算产品及服务ღღ★，并接受了网易科技等媒体的采访ღღ★。英博数科CTO李少鹏ღღ★、副总裁宋琛以及副总裁秦伟俊与媒体进行了深入交流ღღ★，展示了英博云在人工智能算力领域的创新成果ღღ★、市场战略以及对行业趋势的深刻洞察ღღ★。
随着ChatGPTღღ★、Sora等AI模型的相继爆发pg电子中国官方网站ღღ★，智算领域受到了前所未有的重视ღღ★。英博数科希望抓住这一市场机遇ღღ★，紧跟行业趋势ღღ★，不断推动算力技术的创新与应用ღღ★。据英博数科副总裁秦伟俊介绍ღღ★，英博数科于2022年成立ღღ★，作为鸿博股份的全资子公司ღღ★，其率先在国内部署了英伟达集群ღღ★，并成功交付了京能智算中心项目ღღ★，积累了从建设ღღ★、采购ღღ★、部署到维修的全流程技术经验ღღ★。
据介绍ღღ★，在智算行业的变化中ღღ★，英博数科敏锐地捕捉到了市场需求的转变ღღ★。秦伟俊提到ღღ★，智算中心的建设正从千卡规模向万卡规模转变ღღ★，这对数据中心的基础设施建设提出了更高的要求ღღ★。他强调ღღ★：“万卡规模的智算中心是未来大规模通用基座大模型迭代的必备门槛ღღ★，英博数科在这方面已经做好了充分的准备ღღ★。”
针对当前算力市场存在的卡闲置问题ღღ★，英博数科提出了单位有效算力成本的概念ღღ★。秦伟俊解释说ღღ★，这一概念的核心是提高算力的有效利用多玩龙之谷论坛ღღ★。为此ღღ★，英博数科推出了GPU容器服务ღღ★，提供基于K8S的云原生服务ღღ★，面向客户提供按需使用的算力资源ღღ★，甚至精确到按小时ღღ★、按分钟计费ღღ★，以及按照CPU任务或GPU任务进行混合资源分配ღღ★，既满足了客户对算力的弹性需求ღღ★，也大大提高了算力的使用效率ღღ★。
同时ღღ★，英博数科副总裁宋琛分享了公司在智算行业上的观察与判断ღღ★。她指出ღღ★，今年以来ღღ★，大模型行业出现了不少变化ღღ★，一方面垂直应用领域开始逐渐有了商业化落地的趋势pg电子中国官方网站ღღ★，另一方面越来越多的聚焦于垂直领域应用的公司开始有了商业化实现闭环的场景和实践ღღ★。英博数科也在这个过程中做了大量的工作ღღ★，与众多客户建立了合作关系ღღ★。
宋琛表示ღღ★，英博云的主要客户一方面是京能集团ღღ★、百川智能ღღ★、无问芯穹ღღ★、潞晨科技等产业界知名企业ღღ★，另一方面则是清华大学ღღ★、人民大学ღღ★、中国科学院等学术界权威学府ღღ★。与此同时ღღ★，英博云也在关注多模态多玩龙之谷论坛ღღ★、视频生成ღღ★、自动驾驶ღღ★、具身智能机器人以及AI for Science等领域的垂直大模型企业ღღ★，它们在训练算力使用方面有着爆发式的增长需求ღღ★，但这种增长更多地分散于各个不同的企业和中小客户里ღღ★。因此ღღ★，推出了高效能ღღ★、性价比最优的英博云算力解决方案ღღ★，以满足客户的弹性多玩龙之谷论坛ღღ★、动态的训练需求ღღ★。
在算力市场的未来趋势方面ღღ★，宋琛谈到ღღ★，随着技术的不断进步和市场的日益成熟ღღ★，算力市场将会呈现出更加理性ღღ★、健康的发展态势ღღ★。她指出ღღ★，虽然当前算力市场仍然存在着一些泡沫和不确定性ღღ★，但是长期来看ღღ★，算力作为AI领域的重要基石ღღ★，其发展前景仍然十分广阔ღღ★。
在技术层面ღღ★，英博数科CTO李少鹏也分享了他对算力技术发展的看法ღღ★。他认为ღღ★，万卡和十万卡集群并行训练是未来趋势ღღ★，也是当前算力领域面临的重要技术挑战ღღ★，需要解决计算网搭建ღღ★、设备选型ღღ★、机房环境选择等技术难题ღღ★。英博数科凭借丰富技术经验ღღ★，有望在这一领域发挥更大优势ღღ★。
他还表示ღღ★，随着技术的不断进步和应用场景的不断拓展ღღ★，算力技术将会呈现出更加多元化ღღ★、智能化的发展态势ღღ★。他指出ღღ★，未来算力技术将不仅仅局限于传统的计算模式和应用场景ღღ★，而是会向更加智能化ღღ★、自适应的方向发展ღღ★，这将为AI产业的发展带来更多的机遇和挑战ღღ★。（王文华）
答ღღ★：第一ღღ★，通用大模型训练算力集群的需求规模越来越大ღღ★，从千卡集群开始向万卡集群的方向和数量去转变ღღ★。第二ღღ★，因为应用领域方面的突破ღღ★，垂直大模型的训练算力需求迎来了爆发式的增长ღღ★。但是这种增长更多分散于各个不同的企业和中小客户里ღღ★，所以这一块的需求就从原来的定量开始转向了临时ღღ★、动态弹性的训练需求ღღ★。第三ღღ★，商业化的加速把算力的市场开始从训练向推理场景做转化ღღ★，推理场景下对推理算力的需求也在不断增加ღღ★。
问ღღ★：英博云提出了“单位有效算力成本”ღღ★，有望成为AI产业衡量算力投入效率的新标准ღღ★，提出这个的初衷和背景是什么？
答ღღ★：用户在使用过程中真正看的是应用算力的效率问题ღღ★，客户真正能用到的是装机算力要乘以卡的可用率ღღ★。因为目前哪怕是最先进的卡ღღ★，故障率也是很高的ღღ★，尤其是在运维技术或者运维条件不完善的情况下ღღ★，故障概率非常高ღღ★。装机算力有1000Pღღ★，一个月下来可用算力只有900Pღღ★，100P就浪费掉了ღღ★，作为分母的时候会整体提升你的算力成本ღღ★。
使用率涉及容器化的问题ღღ★。很多客户还以原来CPU时代的方式来运作ღღ★，租几台算力服务器自己用ღღ★，这种情况下卡的闲置率是比较高的pg电子中国官方网站ღღ★，反馈回来就是使用率比较低ღღ★。AI大模型时代ღღ★，GPU非常昂贵ღღ★，算力成本相比过去增加数十倍ღღ★。我们可以通过在集中算力池里做容器化的调度方式ღღ★，来提升卡的使用率多玩龙之谷论坛ღღ★。
最后一层是说我们要提升模型的算力利用率ღღ★，这也是特定的针对GPU做大模型训练过程中最重要的衡量指标ღღ★，体现模型训练的效率ღღ★。
综上ღღ★，装机算力分别乘以卡使用率ღღ★、卡利用率以及模型算力利用率ღღ★，可以得到实际的有效算力ღღ★。当智算中心综合了设备成本ღღ★、机电成本和运维成本的总成本ღღ★，除以有效算力ღღ★，就可以得到单位有效算力成本ღღ★，可以用来从客户算力使用的视角来衡量智算中心的效益ღღ★。
答ღღ★：我们发现大量客户对于自己业务的场景是缺乏经验的ღღ★，针对这样的情况ღღ★，我们设立了算力实验室ღღ★。主要聚焦在几个领域ღღ★，一方面我们对市场上主流的算力卡做测评ღღ★，根据测评的结果ღღ★，给客户提供最有效的ღღ★，最适合客户的解决方案ღღ★，帮助客户减少试错成本ღღ★。另外一方面ღღ★，我们关注到国产化是非常重要的一个趋势ღღ★，而且我们认为未来一定是国产高端算力卡实现国产替代ღღ★，基于这样的前提ღღ★，我们在算力实验室里对国产卡同步进行一系列的测评和适配ღღ★。异构算力平台开发的工作ღღ★，也是在算力实验室里进行的ღღ★。
答ღღ★：英博云专注于做两点ღღ★：一方面对大模型训练本身会有集群规模增长的头部客户ღღ★、大模型客户来说ღღ★，我们有集群的建设ღღ★、运维的经验以及长期的技术积累ღღ★、技术跟踪ღღ★，我们为这一类大模型客户提供量身定制的集群选型ღღ★、建设ღღ★、运维和整体解决方案ღღ★。另一方面ღღ★，对于中小型对弹性算力有需求的应用领域的客户ღღ★，我们推出了GPU容器服务ღღ★。针对不同的客户我们有不同的服务和产品去应对ღღ★。
答ღღ★：主要还是顺应市场的变化ღღ★。目前大模型企业的格局相对来说已经比较稳定了ღღ★，未来大量新增玩家入局到这个赛道里做大模型大规模的训练其实不是特别现实ღღ★，更多的企业开始谋求商业化的转型和落地ღღ★。随着大模型不断的迭代ღღ★，垂直领域应用落地的探索也开始呈现蓬勃发展的态势ღღ★。同时也有大量小B类的中小型客户开始发展起来ღღ★，有相当多客户基于大模型客户服务于某个垂直领域ღღ★，已经实现了商业化的闭环ღღ★。这些客户是未来行业能够长期发展下去的基石ღღ★，也代表了未来的方向ღღ★，陪伴这样的客户去成长其实是我们选择的一个战略方向ღღ★。
相对原来公有云厂商来讲pg电子中国官方网站ღღ★，我们主要的特点在于专注GPU算力云领域ღღ★。英博云一直以来都聚焦于此ღღ★，不断进行深度技术积累ღღ★、开展研发投入ღღ★，在技术层面精研细磨ღღ★，从而构建起强大的技术壁垒ღღ★。不仅如此ღღ★，我们还能基于自身的深度技术沉淀ღღ★，为客户提供灵活定制服务ღღ★，精准把控成本ღღ★，精心打造契合客户需求的优质方案ღღ★。在整个GPU算力云市场中ღღ★，我们有力地填补了细分缝隙ღღ★。有大量的客户是我们“手把手”去教ღღ★，挖掘需求ღღ★，听取需求ღღ★，量身定制服务的ღღ★，在这方面我们的灵活度很高ღღ★。
答ღღ★：从融资的角度来讲ღღ★，智算中心建设本身是一个资本密集型的事情ღღ★，比如一个128台设备的英伟达高端设备集群动辄就是好几亿的投资ღღ★。我们在集群建设方面确实需要大笔资金的投入ღღ★，市场上也有比较成熟的融资模式和渠道ღღ★。作为上市公司的子公司ღღ★，上市公司也有相应的融资渠道ღღ★。投资上ღღ★，我们关注到在AI应用领域有大量新兴创业公司ღღ★，他们逐渐开始形成了商业化的闭环ღღ★，而且未来的增长增速非常快ღღ★。对于这一类企业ღღ★，我们考虑以产业孵化器的方式从资金ღღ★、算力ღღ★、人才培养ღღ★、生态等方面给予相应的扶持ღღ★。
答ღღ★：实现万卡或者十万卡规模的并行训练ღღ★，需要把所有卡组在一张计算网里ღღ★，其实这是比较有技术挑战的一件事情ღღ★。在这个规模下ღღ★，无论是IB网络还是RoCE网络都是非常复杂的ღღ★，涉及整体的设备选型ღღ★，选择用什么类型的交换机ღღ★、光模块和光纤这些辅助设备的选型ღღ★。另外机房整体环境的选择ღღ★，什么样密度的机柜模式ღღ★，这些都会影响到整个万卡或者十万卡集群的性能指标ღღ★。英博数科其实是最早做大规模智算集群建设的pg电子中国官方网站ღღ★，我们在过去不到两年的时间里积累了比较丰富的硬件层面ღღ★，以及大规模组网搭建的技术经验ღღ★。在万卡或者十万卡规模需求的情况下多玩龙之谷论坛ღღ★，对于英博数科这种专业做AI建设的公司是比较利好的消息ღღ★，可以让我们之前技术的积累更好地发挥优势ღღ★。
问ღღ★：现在关于Scaling Law的讨论很多ღღ★，有人认为可能它要走到尽头了ღღ★，有人认为远远还没有到尽头ღღ★。现在视频生成也越来越多了ღღ★，也爆发了很多算力需求ღღ★，这些会给算力发展带来哪些新的机遇或者挑战？
答ღღ★：从第一性原理考虑Scaling Law的话ღღ★，Scaling Law是不会失效的ღღ★。基于人类已有的知识多玩龙之谷论坛ღღ★，训练一个尽可能聪明的大模型ღღ★。只要这样一个基本原理在ღღ★，不管算法如何演进多玩龙之谷论坛ღღ★，在同一个架构情况下ღღ★，模型规模越大ღღ★，模型就越聪明ღღ★。它可能受到一些硬件条件的制约ღღ★，但是它的作用或者它的效用是不用质疑的ღღ★。现在我们看到了大模型在部分应用领域里显示出比较强大的力量ღღ★，尤其是在视频生成领域ღღ★，应用侧的威力开始凸显ღღ★。整体而言ღღ★，未来对于算力的需求是会持续不断地增长的ღღ★。
问ღღ★：几乎所有的AIGC产品都会面临比较严峻的算力问题ღღ★，英博云能为AIGC产品提供什么样的支撑？
答ღღ★：现在AIGC产品唯一的制约点是成本问题ღღ★，我们跟很多客户聊的时候ღღ★，看的情况是模型做得挺好的ღღ★，输出的结果也挺好ღღ★，但是难以大量投放或者难以真正经营ღღ★，因为它的算力消耗成本是巨大的ღღ★，导致它的收益覆盖不了算力成本ღღ★，用户越多就亏得越严重ღღ★。我们要做的事情是提供高效益的算力ღღ★，让AIGC公司用到更便宜的算力ღღ★，低成本就是我们未来的方向ღღ★。
答ღღ★：非常早期的阶段ღღ★。几年前工业界ღღ★、技术界已经在深入研究大模型了ღღ★，但是直到去年才被大众知道ღღ★，带动了一波研究浪潮ღღ★，当时整个工业界对它充满了期待pg电子中国官方网站ღღ★。但现在大家发现期待过高了多玩龙之谷论坛ღღ★，热情曲线迅速下来了ღღ★，这是任何一项新技术发展曲线的一个阶段ღღ★。随着推理算力的增长ღღ★，大模型产业会逐渐进入平稳发展期ღღ★，可能今年下半年就处在这样一个变化期里ღღ★。pg电子游戏官方网站ღღ★！pg电子中国官方网站ღღ★，pg电子官方平台ღღ★。pg电子官网PG电子网址ღღ★，pg电子官方网站ღღ★！
