Google Research近日推出全新的KV缓存压缩方法TurboQuant。据称，该技术可在不损失准确性的前提下，将大语言模型的缓存内存占用至少减少6倍，并实现最高8倍的加速，旨在解决AI推理与向量搜索中的内存瓶颈问题。受此消息影响，美股存储板块集体走低。截至收盘，闪迪跌6.5%，美光科技跌超4%，西部数据跌超4%，希捷科技跌超5%。
网页链接Google Research近日推出全新的KV缓存压缩方法TurboQuant。据称，该技术可在不损失准确性的前提下，将大语言模型的缓存内存占用至少减少6倍，并实现最高8倍的加速，旨在解决AI推理与向量搜索中的内存瓶颈问题。受此消息影响，美股存储板块集体走低。截至收盘，闪迪跌6.5%，美光科技跌超4%，西部数据跌超4%，希捷科技跌超5%。
网页链接免责声明：投资有风险，本文并非投资建议，以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请，作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考，不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证，投资者应自行研究并在投资前寻求专业建议。