标签：推理性能
测试时扩展：提升语言模型推理性能的新方法
本文探讨了一种简单且资源高效的测试时扩展方法，通过“预算强制”策略控制推理过程中的计算资源，显著提升语言模型的推理性能。研究在s1K数据集上验证了该方法...
可微缓存增强方法：提升大语言模型推理性能的新突破
谷歌DeepMind推出的'可微缓存增强'方法，通过引入机器学习算法动态调整缓存策略，显著提升了大语言模型的推理性能。本文将深入探讨这一技术的原理、应用场景...
Grok 3：AI技术的新巅峰与全球竞争格局的重塑
Grok 3的发布标志着AI技术的又一次飞跃，其强大的计算能力和推理深度在全球范围内引发了广泛关注。本文将探讨Grok 3的技术优势、成本挑战以及其对全球AI竞争...
Hopper架构与Blackwell的较量：英伟达如何引领AI芯片新时代
本文探讨了英伟达Hopper架构与下一代Blackwell芯片的竞争，分析了黄仁勋对DeepSeek开源模型的认可及其对AI计算需求的推动。文章还深入讨论了Blackwell比Hoppe...
DeepSeek R1：低成本、高性能的AI新星，如何颠覆大模型格局？
DeepSeek R1以其低成本、高性能和开源特性，正在颠覆AI大模型领域。通过蒸馏技术和FP8运算，它实现了训练成本的大幅降低，同时在数学、编程和中文理解上表现...
字节跳动豆包大模型团队：在AI浪潮中的创新与挑战
字节跳动豆包大模型团队在AI领域展现了强大的创新能力，推出了UltraMem架构以优化推理性能，同时与DeepSeek等开源模型展开竞争。本文探讨了豆包大模型的技术...
UltraMem：开源大模型DeepSeek-R1与字节跳动的新架构革新AI生态
中国人工智能公司深度求索（DeepSeek）发布的开源大模型DeepSeek-R1在全球引发热议，标志着低成本高性能AI大模型的崛起。字节跳动豆包大模型团队推出的新架构...
通过字节跳动免费使用满血可联网DeepSeek R1
现在注册，立即送145元代金券
字节跳动提供 DeepSeek R1、OpenAI o1、GPT-4o、Claude 3.5 和 Gemini 1.5等领先大模型
马上试试
AI-magic收录了大量国内外AI工具箱，包括AI写作、图像、视频、音频、编程等各类AI工具，以及常用的AI学习、技术、和模型等信息，让你轻松加入人工智能浪潮。