5熊猫网

 找回密码
 免费注册

QQ登录

只需一步,快速开始

开启左侧
查看: 44|回复: 0
 河麂 发表于: 2024-12-27 23:03:03|显示全部楼层|阅读模式

[2024年] 量化巨头放大招!大模型性价比之王来了

 [复制链接]
  : 21世纪经济报道
  12月26日晚,杭州深度求索人工智能基础技术研究有限公司(简称“深度求索”)宣布,全新系列模型 DeepSeek-V3 首个版本上线并同步开源,API服务已同步更新,接口配置无需改动。
  公开信息显示,深度求索成立于2023年7月17日,由知名量化资管巨头幻方量化创立,幻方量化创始人梁文峰在量化投资和高性能计算领域具有深厚的背景和丰富的经验。
  深度求索表示,DeepSeek-V3在知识类任务(MMLU,MMLU-Pro,GPQA,SimpleQA)上的水平相比前代 DeepSeek-V2.5显著提升,接近当前表现最好的模型Anthropic公司于10月发布的Claude-3.5-Sonnet-1022。
  在美国数学竞赛(AIME 2024,MATH)和全国高中数学联赛(CNMO 2024)上,DeepSeek-V3大幅超过了其他所有开源闭源模型。另外,在生成速度上,DeepSeek-V3的生成吐字速度从20TPS(Transactions Per Second每秒完成的事务数量)大幅提高至60TPS,相比V2.5模型实现了3倍的提升,能够带来更加流畅的使用体验。
5a08-58b9556d1cf69ef1b0809c61a63fe273.png
  △ DeepSeek-V3和其他模型的比较。图片源自:Deep Seek微信公众号
  据澎湃新闻报道,Meta AI研究科学家田渊栋对DeepSeek-V3各个方向上的进展都表示赞赏,称“这是一项了不起的工作”。
  据官方技术论文披露,DeepSeek-V3模型的总训练成本为557.6万美元,而GPT-4o等模型的训练成本约为1亿美元。深度求索表示,“这是一个全新的开始。”
  据财联社报道,OpenAI的联合创始人之一Andrej Karpathy也发文称赞道:作为参考,要达到这种级别的能力,通常需要约1.6万个GPU的计算集群。不仅如此,当前业界正在部署的集群规模甚至已经达到了10万个GPU。比如,Llama 3 405B消耗了3080万GPU小时,而看起来更强大的DeepSeek-V3却只用了280万GPU小时。
  性能更强、速度更快的DeepSeek-V3上线,幻方量化给出的定价是多少呢?
  深度求索表示,“我们的模型 API 服务定价也将调整为每百万输入 tokens 0.5元(缓存命中)/2元(缓存未命中),每百万输出 tokens 8元。”据财联社报道,加总成本是10元人民币。
  上一代模型Deepseek-V2.5的价格是,输入:0.14美元/百万Token,输出为:0.28美元/百万Token,加总成本是0.14+0.28=0.42美元,大约3元人民币。
  这里的Token是大模型在处理数据时的最小单元,一般而言,100万Token相当于70万~100万英文单词,或接近100万中文汉字。列夫托尔斯泰的名著《战争与和平》的英文版大约是大约有1200-1500页、58万英文单词,把它翻译为中文,大约有100-130万字,让DeepSeek-V3读完全文只需要2元左右。
  尽管提价,但与同类型模型相比,DeepSeek-V3依旧极具性价比。比如OpenAI的GPT 4o定价相当高,输入:5美元/百万Token,输出:15美元/百万Token,加总成本是20美元,约合人民币140元。
  本文综合DeepSeek微信公众号、澎湃新闻、财联社
  (声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。)
『 5熊猫网 』提醒,在使用本论坛之前您必须仔细阅读并同意下列条款:
  1. 遵守《全国人大常委会关于维护互联网安全的决定》及中华人民共和国其他各项有关法律法规,并遵守您在会员注册时已同意的《『 5熊猫网 』管理办法》;
  2. 严禁发表危害国家安全、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容;
  3. 本帖子由 河麂 发表,享有版权和著作权(转帖除外),如需转载或引用本帖子中的图片和文字等内容时,必须事前征得 河麂 的书面同意;
  4. 本帖子由 河麂 发表,仅代表用户本人所为和观点,与『 5熊猫网 』的立场无关,河麂 承担一切因您的行为而直接或间接导致的民事或刑事法律责任。
  5. 本帖子由 河麂 发表,帖子内容(可能)转载自其它媒体,但并不代表『 5熊猫网 』赞同其观点和对其真实性负责。
  6. 本帖子由 河麂 发表,如违规、或侵犯到任何版权问题,请立即举报,本论坛将及时删除并致歉。
  7. 『 5熊猫网 』管理员和版主有权不事先通知发帖者而删除其所发的帖子。
您需要登录后才可以回帖 登录 | 免费注册

本版积分规则

© 2002-2025, 蜀ICP备12031014号, Powered by 5Panda
GMT+8, 2025-5-2 20:43, Processed in 0.062401 second(s), 10 queries, Gzip On, MemCache On
快速回复 返回顶部 返回列表