来源:直播排行榜
2025-01-28 16:47:22
“预训练”是AI大模型学习中的一种方法,指的是通过海量的数据,训练一个大模型。训练时需要大量的数据和算力支持,每次迭代可能耗资数百万至数亿美元。
官方技术论文披露,DeepSeek-V3在预训练阶段仅使用2048块GPU训练了2个月,且只花费557.6万美元。这个费用是什么概念?
据报道,GPT-4o的模型训练成本约为1亿美元。简单粗暴地说,这相当于DeepSeek-V3比同等性能的AI大模型,降了十几倍的成本。
早在2024年5月,深度求索发布DeepSeek-V2时,就曾因给模型的定价太过于便宜,开启了中国大模型的价格战,被称之为“AI界的拼多多”。
“相比于说它是‘拼多多’,它更像小米,贴近成本定价,并且自产自销。”马千里认为,训练成本比较低的原因,离不开深度求索团队自研的架构和算力,他们自身的算力储备可以与大厂比肩,并且更注重底层的模型。
“ChatGPT走的是大参数、大算力、大投入的路子,DeepSeek-V3的路径用了更多的巧思,依托数据与算法层面的优化创新,从而高效利用算力,实现较好的模型效果。”马千里说道。
相关新闻
BLG胜决2:3不敌AL:ELK称没事还有复活甲,左手表示不用白不用
来源 : 直播排行榜2025-06-19 21:47:44
北京发文促进游戏电竞行业高质量发展,支持赛事活动举办、场馆建设运营
来源 : 直播排行榜2025-06-19 21:47:44
Bigwei:打AL输了就输了呗,就当磨练心态,未来准备MSI更重要~
来源 : 直播排行榜2025-06-19 21:47:41
天舒带你了解LTA赛区:南美新王FUR,北美老对手FLY
来源 : 直播排行榜2025-06-19 21:47:41
LOL官方投票仅1/3觉得Bin能solo赢Kiin:LPL上单巅峰完就送
来源 : 直播排行榜2025-06-19 21:47:40
BLG主教练在0:1 iG后训话队员:第一局太着急了,打iG做好事情随便赢
来源 : 直播排行榜2025-06-19 21:47:40
没有的事!腾讯正式否认收购DNF母公司Nexon
来源 : 直播排行榜2025-06-19 21:47:39
3A级大作?B站官宣神秘新游:“下一个村里的大学生”
来源 : 直播排行榜2025-06-19 21:47:36
JJKing:小奶油换LCK培养成Chovy 想看Faker输不想看他输给全华班
来源 : 直播排行榜2025-06-19 21:47:36
Bwipo:最期待交手圣枪哥跟Kiin,可以检验自己实力
来源 : 直播排行榜2025-06-19 21:47:36