字节挑起大模型价格战,豆包主力模型价格比同行低99.3%

科技 2024-05-15 17:08 阅读:

5月15日,字节跳动旗下火山引擎发布了豆包大模型,成为国内首批通过算法备案的大模型之一。据悉,豆包大模型日均处理1200亿Tokens文本,生成3000万张图片。而今日,火山引擎总裁谭待重点披露了豆包大模型的商业化价格——豆包主力模型在企业市场的定价为0.0008元/千Tokens,即0.8厘的价格可处理1500多个汉字,较行业平均价格便宜99.3%。

火山方面人士表示,目前大模型的参数规模已经不再是衡量能力的唯一指标。谭待指出,今年行业不再比拼参数规模,而是更注重模型的最终能力和性能。因此,豆包模型以最强的主力模型来定价,并与行业价格进行对比。

谭待透露,为降低成本,火山引擎采取了技术和工程手段,如对模型结构进行优化调整,将单机推理升级为分布式推理,并结合云计算算力的混合调度。这些举措旨在降低大模型的推理成本,推动更广泛的使用。

据QuestMobile数据显示,基于大模型的AIGC行业用户量虽同比增长了8倍,但仅占移动互联网用户量的6%。谭待认为,降低成本是推动大模型快速发展的关键因素。目前,行业内降低大模型价格的趋势逐渐形成,OpenAI和智谱大模型开放平台也相继宣布了价格的下调。

字节跳动基于豆包大模型已打造了多款AI应用,包括AI对话助手“豆包”、AI应用开发平台“扣子”、互动娱乐应用“猫箱”等。字节跳动产品和战略副总裁朱骏表示,技术在快速演化,但用户核心需求未变,希望找到适合的大模型应用形态。目前,豆包是字节跳动重点投入的大模型应用,已有超过800万个智能体被创建,月度活跃用户达到2600万。豆包大模型不仅服务字节内部,也与火山引擎的众多企业客户合作共创,提供多模态能力的模型家族。