原创
DeepSeek一体机密集发布!私有化部署需求激增 云厂商:已接到大量用户咨询
02-12 17:58 星期三
科创板日报记者 黄心怡

《科创板日报》2月12日讯(记者 黄心怡)DeepSeek掀起的算力热潮还在持续。中国电信昨日宣布推出了息壤智算一体机-DeepSeek版,在硬件层面以华为昇腾芯片为基础,提供8卡、16卡、32卡等多种规格型号。此前,京东云也发布DeepSeek大模型一体机,支持华为昇腾、海光、寒武纪、摩尔线程、天数智芯等国产AI加速芯片。《科创板日报》了解到,华鲲振宇也推出了DeepSeek大模型一体机方案。

《科创板日报》在采访中获悉,目前DeepSeek大模型一体机分为推理一体机和训推一体机。DeepSeek推理一体机内置DeepSeek-R1 32B、70B、满血版671B等不同尺寸模型,价格在几十万到数百万不等,主要面向对数据安全、数据隐私较为敏感的企业用户。而训推一体机的售价更高,用于DeepSeek-R1 32B模型的预训练和微调的一体机价格就达到数百万。

有云技术人士认为,大模型一体机能否产生经济价值是关键。“大模型一体机主要是本地化部署,解决的是数据隐私问题。之前大模型一体机的经济价值不高,高投入影响了其落地,未来还是需要应用能有更大的发展。”

▍DeepSeek模型私有化部署需求激增

“服务器繁忙,请稍后再试。”这是近期DeepSeek用户经历的日常,需求井喷让DeepSeek始终处于满负荷算力运行状态。

《科创板日报》记者在采访中了解到,由于直接API调用的不稳定,很多企业已经开始探索较为简易的私有化部署,甚至利用几张英伟达4090显卡来尝试部署DeepSeek-R1 32B到70B的模型。

我们一开始安装了70B 的模型,但是1张4090 24G显卡跑不动,后来重新装了32B的大模型。”有企业信息化部门的人士表示。

“我们也通过英伟达显卡部署了DeepSeek模型,把业务跑起来了。但100人左右并发速度明显降低,用于内部知识库没问题,如果是其他应用还是需要专业一体机。”另一位IT人士表示。

记者从多名云计算厂商相关人士处获悉,在DeepSeek爆火后,不少云厂商接到了大量的用户咨询。“企业用户会现在公有云上进行测试,与需求是否适配,再考虑私有云部署、一体机等形式。” 一家运营商云的销售人员向记者介绍。

优刻得相关负责人表示,DeepSeek开源模型适配完成并上线后,云上访问量和用量激增。除却GPU云主机外,配套的其他产品也有相应的增长,比如并行文件存储UPFS、UModelVerse模型服务平台、微调服务平台等。还陆续受理到基于DeepSeek开源模型私有化部署的需求,比如一体机化、专有云化、全面国产化等场景

▍数百万投资成本是一道坎

选择私有化部署的企业,往往对于数据安全有较高的要求,但大模型一体机的硬件投入动辄百万级别,这对于不少企业是一道门槛。

目前,中国电信息壤智算一体机-DeepSeek版分为训推一体机和推理一体机两大类型,有入门型、通用性、增强型不同配置,售价在几十万到数百万不等,最高满血版推理一体机优惠价近600万元,训推一体机则更高。《科创板日报》从知情人士处获悉,京东云的DeepSeek大模型一体机的售价也在几十万到几百万不等。

“我们肯定是用私有化部署,安全第一。不过目前大模型一体机的投入产出性价比不高,之前也是曾经尝试过,因投入产出的暂缓执行了。”一名大型企业信息化负责人表示。

不少IT业内人士认为,DeepSeek大模型最大的优势在于开源与低成本,通过国产芯片算力,实现AI大模型的应用,可以让中国在更多领域、更多行业快速落地AI应用,但仍需要应用能有更大发展,才能让市场发展起来。“决定AI在企业中应用深度和广度的并不是模型价格,而是如何将内部知识加载进去在应用层面广泛接入的问题。大模型一体机主要是本地化部署,解决数据隐私问题。而大模型要先有应用价值。之前大模型一体机的落地,就遇到经济价值不够高的问题。

谈及未来大模型一体的市场空间,一名运营商云相关负责人告诉《科创板日报》记者,如果是在医疗、教育等领域的工程化类的项目,智慧医疗、智慧教育、智慧农业,未来可能会把一体机部署在客户现场,接入相关行业场景的知识库。然后训练出与应用场景密切结合的AI模型,同时集成到应用环境当中,给B端的企业提供服务。”

▍国产算力能否支撑DeepSeek满血版大模型部署?

《科创板日报》注意到,DeepSeek大模型一体化方案不少采用了国产算力芯片。

中国电信息壤智算一体机-DeepSeek版,在硬件层面以华为昇腾芯片为基础,提供8卡、16卡、32卡等多种规格型号。联想集团与沐曦联合发布基于DeepSeek大模型的一体机解决方案,以“联想服务器/工作站+沐曦训推一体GPU+自主算法”为核心架构。

京东云的DeepSeek大模型一体机,支持华为昇腾、海光、寒武纪、摩尔线程、天数智芯等国产AI加速芯片。

优刻得相关负责人对《科创板日报》表示,已同多家国产芯片厂商完成了对DeepSeek满血版和蒸馏版开源模型的适配工作。“从测试用户结果来看,现在可以用起来了。后续优刻得也会继续同国产芯片公司合作,在能用的基础上要进行优化达到好用,通过使用量的扩大降低成本,实现便宜用,提升全国产的体验。”

该负责人也指出,由于DeepSeek开源并不久,故根据市场的使用惯性来看,英伟达的GPU卡仍为当前中大型AI公司的使用主流卡型。“后续我们也会继续同各类企业对接,提供满足市场需要的各类AI资源。”

一名AI基础设施业内人士告诉记者,主流国产芯片已基本实现对 DeepSeek 蒸馏版小模型的兼容支持,不过满血版V3和R1拥有6710亿参数,这使得它们对硬件的要求大幅提升,需在推理的解码部分部署320个 GPU,以实现完全的专家并行。

“各家芯片企业都会开展DeepSeek满血版的适配,但是否真正能够在几百张卡上跑起来,并达到比较好的token速率和性价比,这是关键。后续各家芯片的比拼就要高下见分晓了。”

财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
热门评论
cls-1350522回复5月前·IP未知0
好好
cls-4ps2ma回复5月前·广东0
云从
企牛回复5月前·北京0
恒为没有一点排面吗
矮股回复5月前·IP未知0
芯片才是关键,
散户赚钱谁出钱回复5月前·广东0
看涨
修炼A股回复5月前·河北0
看重点芯片
深圳地头虫回复5月前·IP未知0
唯一的训练推理671b满血一体机:云从科技
cls-3o9ek6回复5月前·IP未知0
中国长城要起飞了
学习准备盘面为准回复5月前·福建0
没买创业黑马可惜了,一体机龙头,华为合作的
骑马入长安回复5月前·IP未知1
算力还是不足啊?
cls-34zw7d回复5月前·广东0
中兴O了
cls-1734545回复5月前·IP未知0
拓维信息就是最核心的,买少啦
炒股养家龙头板回复5月前·湖南0
天舟文化、天龙集团同光线传媒23:15 0.00 KB/s 5G 62 < 搜你想看的 搜索 外网热评哪吒 2 美国网友:谢天谢地,我抢到票了。 澳大利亚网友:中国动漫已经赶超上来了,此前这个领域一直是日本和美国的天下。 新加坡网友:当大圣武器出来的那一刻, M&G 晨光 才明白齐天大圣这四个字的含金量。 + 韩国网友:接近100亿人民币?开什么玩笑,我们大韩民国作为发达国家发行的世界第 电影都没有这么多。 414 日本网友:接近100亿人民币啊。一开始我是不相信的,直到我在网上看到了关于他的。 片段,现在我已经深信不疑。 25 美国网友:看来我们的阿凡达危险了。不过我支持这部来自中国的动漫,它没有所谓的政治正确以及各种族和性别歧视,他值得得6高票房。 马来西亚网友:这部高票房作品打破了世界上对于动漫的认知,它的出现让人们知道了51动漫对于青少年团体带来的不仅仅只有伤害 ux20小时前 > 相关搜索·哪吒2票房数据 善语结善缘,恶...
wju0509回复5月前·广东0
利好国产AI芯片
cls-2bg70v回复5月前·IP未知0
利通电子 让我喝点汤行不
cls-1399532回复5月前·江苏4
华为要自己亲自做算力一体机,拓维信息以后就没啥订单了
目标1KW回复5月前·IP未知1
明天起满仓干
cls-1899777回复5月前·IP未知1
创业黑马与HW云开展全面合作,向政府转售大模型一体机。看来明天又是一字,没买[撇嘴]
cls_2196789回复5月前·江苏0
老美CPI不行,对明天开盘有影响
cls-1ozrxr回复5月前·广东0
安诺其
愚痴蛋回复5月前·IP未知1
利好国产芯片华为910C
cls-yqxu1b回复5月前·浙江0
记者2月12日从云从科技获悉,云从从容大模型训推一体机近日成功适配国产开源大模型DeepSeek,可实现“开箱即用”的私有化部署,标志着最新国产大模型技术与软硬一体基础设施的深度融合,将为千行百业的数字化转型注入新动能。
cls-yqxu1b回复5月前·浙江0
记者2月12日从云从科技获悉,云从从容大模型训推一体机近日成功适配国产开源大模型DeepSeek,可实现“开箱即用”的私有化部署,标志着最新国产大模型技术与软硬一体基础设施的深度融合,将为千行百业的数字化转型注入新动能。
cls-o03o63回复5月前·上海0
浪潮
乌龟炒股回复5月前·广东0
优刻得相关负责人对《科创板日报》表示,已同多家国产芯片厂商完成了对DeepSeek满血版和蒸馏版开源模型的适配工作。“从测试用户结果来看,现在可以用起来了。后续优刻得也会继续同国产芯片公司合作,在能用的基础上要进行优化达到好用,通过使用量的扩大降低成本,实现便宜用,提升全国产的体验。” 优刻得相关负责人表示,DeepSeek开源模型适配完成并上线后,云上访问量和用量激增。除却GPU云主机外,配套的其他产品也有相应的增长,比如并行文件存储UPFS、UModelVerse模型服务平台、微调服务平台等。还陆续受理到基于DeepSeek开源模型私有化部署的需求,比如一体机化、专有云化、全面国产化等场景。
九点一棵回复5月前·IP未知1
东方国信!!!70见
cls-1513732回复5月前·IP未知1
浪潮信息,海若一体机
cls-qgevcb回复5月前·IP未知0
你们还猜来猜去每日互动不就是吗?还用的着猜
cls-1835908回复5月前·福建2
云从科技从容大模型推理一体机
cls-1513732回复5月前·IP未知3
浪潮信息,浪潮云联合沐曦股份、铨兴科技等生态伙伴,发布预置DeepSeek-R1和DeepSeek-V3模型的海若一体机,率先实现671B DeepSeek大模型国产GPU单机推理服务。
cls-1399532回复5月前·江苏1
不是华为自己做的,减少拓维订单
小学生回复5月前·辽宁0
都把自己的股报出来
cls-1377366回复5月前·浙江8
创业黑马正宗啊,今天没有买入可惜了
cls-1363887回复5月前·IP未知13
华为昇腾六剑客:拓维信息,常山北明,神州数码,软通动力,四川长虹,烽火通信🌹🌹🌹🌹🌹🌹
大力回复5月前·IP未知0
利好通讯服务行业
cls-1853737回复5月前·IP未知0
拓维信息走换手最后的真龙
cls-1373717回复5月前·IP未知11
创业黑马,销售 算力 一体机
.回复5月前·浙江0
东方材料的子公司东方超算啊
cls-86zk30回复5月前·IP未知1
天融信前几天就发了ds一体机
cls-5dthxq回复5月前·IP未知0
每日互动🐳🐳🐳🐳🐳🐳🐳🐳🐳🐳🐳
cls-1373717回复5月前·IP未知8
创业黑马有销售算力一体机
修炼A股回复5月前·河北0
肯定浪潮信息呀
燃点43回复5月前·江苏0
润和软件
Tom83回复5月前·IP未知0
弘信电子
cls-1838031回复5月前·IP未知1
亚康股份,纯昇腾DS一体机!
cls-6q7473回复5月前·IP未知0
英伟达表示你大爷的
抚今忆昔丶91回复5月前·IP未知1
天娱数科估计得成龙了
小鱼钓喵喵回复5月前·山东0
浙江东方
cls-1383152回复5月前·江苏0
芯片股
涨停国王回复5月前·上海0
锦航反包
逍遥行者15回复5月前·IP未知1
利好力合科创,还未被挖掘
逍遥行者15回复5月前·IP未知0
1
cls-1811376回复5月前·广东0
明天浪潮信息起飞
cls-7mfb1e回复5月前·河北2
天融信前两天就有了ds一体机
cls-my3wt5回复5月前·IP未知1
拓维信息
cls-k9ma5g回复5月前·IP未知0
天融信!
cls-1811376回复5月前·广东0
明天炒硬件硬件
专注的小散回复5月前·IP未知0
天融信
华夏龙腾回复5月前·IP未知0
杰创智能
股票我爱你回复5月前·山东0
摸板摸板[流泪][流泪][流泪]
cls-oidfb5回复5月前·IP未知0
浪潮信息
ℳ布先生°꧔ꦿ64回复5月前·IP未知1
远光软件
cls-h8y1t9回复5月前·江苏0
昇腾芯片起
Owen123回复5月前·北京8
利好基础算力设施,液冷又要大爆发了..
cls-vanran回复5月前·IP未知3
东方国信有推理一体机
微信神州七号回复5月前·上海2
润和软件
cls-1387235回复5月前·黑龙江1
一定国产化