(原标题:豆包大模型出手,推理成本最高可降低83%!概念股“闻风”集体大涨)
图片来源于网络,如有侵权,请联系删除
2月12日,豆包概念股午后大幅走强,创业板汉得信息(300170.SZ)拉升封板,润欣科技(300493.SZ)、移远通信(603236.SH)等纷纷大幅冲高。
Wind数据显示,抖音豆包指数(8841129.WI)今日大涨1.43%,板块内约8只个股涨超5%。
消息方面,据“豆包大模型团队”微信公众号,字节跳动豆包大模型Foundation团队近期提出UltraMem,该架构有效解决了MoE推理时高额的访存问题,推理速度较MoE架构提升2―6倍,推理成本最高可降低83%。
据了解,随着模型规模的扩大,推理成本和访存效率已成为限制大模型规模应用的关键瓶颈。在Transformer架构下,模型的性能与其参数数量和计算复杂度呈对数关系。随着LLM规模不断增大,推理成本会急剧增加,速度变慢。
为此,字节跳动豆包大模型Foundation团队提出UltraMem,一种同样将计算和参数解耦的稀疏模型架构,在保证模型效果的前提下解决了推理的访存问题。
目前,这项创新成果已被机器学习和AI领域的顶级会议ICLR 2025接收,为解决大模型推理效率和扩展能力问题提供了全新思路。
公开资料显示,字节跳动豆包大模型团队成立于2023年,致力于开发先进的AI大模型技术,成为世界一流研究团队,为科技和社会发展作出贡献。团队研究方向涵盖深度学习、强化学习、LLM、语音、视觉、AInfra等,在中国、新加坡、美国等地设有实验室和岗位。
今日,一则消息再度引爆抖音豆包概念,南财快讯带你一图速览↓↓↓
(声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。)
本文来源:生活悦享网
本文地址:https://www.finopne.com/post/2426.html
关注我们:微信搜索“xiaoqihvlove”添加我为好友
版权声明:如无特别注明,转载请注明本文地址!
- •马士基上调7月运价,中远海控:行业龙头后续都有运价调涨计划,市场还可以
- •一字涨停近17亿元封单!这家上市公司拟大手笔收购算力资产,搭上DeepSeek风口
- •公告精选丨北方华创:被列入“实体清单”不会对业务产生实质性影响;捷昌驱动:“领雁”研发攻关计划项目进展顺利
- •淘宝将接入微信支付,概念股集体走强!20CM涨停个股回应
- •指数重回4700点!中证A500ETF又见百亿基金,易方达旗下产品换手率近80%丨A500ETF观察
- •科创100ETF(588190)拉升翻红,绿的谐波涨超14%,科创板发展或将迎来更有利的市场环境
- •一周前瞻丨中国5月CPI、PPI将发布;美联储将公布利率决议、季度经济预测
- •今日南财市场情绪指数为34.1,市场投资热度提升
- •18倍大牛股一度跌超75%!长久股份回应:股权集中公告或引发投资者恐慌
- •减资触发债务清偿,多家上市公司回应:申报债权可用电子邮件