字节对MoE模型训练成本再砍一刀成本可节省40%

03-10 17:24 星期一

【字节对MoE模型训练成本再砍一刀成本可节省40%】财联社3月10日电，字节豆包大模型团队官宣开源一项针对MoE（混合专家模型）架构的关键优化技术，可将大模型训练效率提升1.7倍，成本节省40%。据悉，该技术已实际应用于字节的万卡集群训练，累计帮助节省了数百万GPU小时训练算力。

财联社声明：文章内容仅供参考，不构成投资建议。投资者据此操作，风险自担。

热门评论

一寸心回复4月前·天津

😁

执行力591回复4月前·四川

利好应用吧，利空算力电力

cls-1302858回复4月前·上海

润泽完蛋了啊，它是字节算力服务商

cls-1302858回复4月前·上海

算力的巨雷啊，完蛋了，算力要暴跌了

大力回复4月前·重庆

利好国内算力租赁公司，利空算力芯片

小徐59回复4月前·广东

利好算力啊，不利好GPU啊

转弯回复4月前·上海

利空算力，利好端侧和应用

cls-f6pso9回复4月前·宁夏

算力完了

cls-xwotma回复4月前·浙江

利好啊，利空的是怎么想的？

无聊杀猪男回复4月前·浙江

你们懂什么。算力板块最后手里有单子的就会牛！关这些成本有什么关系?

?回复4月前·天津

利好算力、利空芯片

cls-1383152回复4月前·江苏

我发觉一旦有板块好消息发出来，第2天这些板块准时漂绿[睡][睡][睡]甚至跌停

cls-0zp18h回复4月前·广东

明天修复算力[大兵]

_炒股小能手回复4月前·IP未知

利好ai 智能体，利好岩山科技

cls-1537000回复4月前·江苏

很多人没说道点上这个主要针对训练算力的优化利空英伟达产业链的算力但随着Ai应用的井喷推理算力始终短缺

cls-qx2ugi回复4月前·广东

短期利空算力，长期利好算力

cls-cqqy16回复4月前·浙江

英伟达都跌成啥样了，梁文峰吾辈之楷模

分歧龙接力选手回复4月前·江苏

难怪算力大跌

cls-1362717回复4月前·江西

大模型要起飞了

cls-yxsak1回复4月前·广东

利好利欧股份

clwyyp回复4月前·浙江

利好应用和端侧！ai智能体及端侧如ai眼镜之类！

cls-黄三的投资笔记回复4月前·北京

每一次的重磅优化，都是对算力的一次暴击

cls-1912880回复4月前·重庆

大模型训练成本的降低，对算力相关股票总体是利好，主要体现在以下方面：需求增长层面 - 应用场景拓展：训练成本降低使更多企业和机构能涉足AI领域，像小型科技公司、科研机构等，他们会积极开展AI项目，开发新的AI应用，如智能客服、智能教育产品等，进而增加对算力的需求，利好算力相关股票。 - 推理需求提升：训练成本降低会促使更多大模型被开发和应用，在推理阶段，大量用户使用这些模型，比如进行智能问答、图像识别等操作，会使推理所需的算力大幅增加。行业发展层面 - 技术创新激励：成本降低激励企业加大在AI技术上的研发创新，探索更先进的算法和模型，这需要更强算力支持，为算力相关企业创造更多业务机会，提升市场对算力股票的预期。市场竞争层面 - 新进入者增加需求：更多企业进入大模型领域，竞争加剧，为提升竞争力，企业会不断优化模型、增加训练次数和数据量，对算力需求持续增长，给算力相关股票带来积极影响。 - 推动算力基础设施建设：地方政府和企业为发展AI，会加大算力基础设施建设投入，如建设智能计算中心等，带动算力产业链上下游发展，使相关股票受益。