功能调用和其他 API 更新官网 – 提升开发者体验和模型性能

RouteLLM 是一个用于服务和评估 LLM 路由器的框架，旨在在不影响模型质量的情况下显著节省 LLM 的使用成本。它提供了一个 OpenAI 兼容的 API，能够根据请求自动路由到最佳模型，同时开箱即用的训练路由器功能使得成本降低高达 85%，且性能保持在 95% 的 GPT-4 水平。RouteLLM 还支持轻松扩展，以便添加新的路由器和基准，并通过单个命令比较所有路由器的性能。

InfiniteHiP 是一种高效的后训练注意力机制，旨在解决大型语言模型（LLMs）在处理长上下文时的计算和内存挑战。它通过动态消除无关上下文token和优化内存管理，显著提升长文本处理的速率和效率。无需额外训练即可扩展模型的上下文长度，适用于各种长文本任务，如语言理解、推理和文本生成。

GPT O3是一个比O1更强大的“推理完整模型”，超长的上下文支持，复杂推理任务，支持超长代码库的生成与调试

RIP是一种新型数据筛选方法，通过分析拒绝回复的质量、长度以及奖励差异来筛选指令提示，从而提升指令微调数据的质量和模型性能。该方法基于直接偏好优化（DPO）中的偏好对，能够筛选掉低质量的指令提示，并可以扩展为Self-RIP，用于生成高质量的合成指令数据。研究显示，RIP在Llama 3.1-8B和Llama 3.3-70B模型上显著提升了性能。

Gilio API 是一个强大的工具，使企业能够通过准确提取重要文档中的数据来自动化文档处理。它可以实时摄取、提取和转换信息，优化成本和集成工作，帮助企业在几分钟内完成处理。

LLaMA3揭示了模型架构不变的情况下，通过增加数据量可以显著提升模型性能的现实。

LongRoPE项目旨在将大型语言模型的上下文窗口扩展至超过200万Tokens，显著提升长文本处理能力，同时保持原始短上下文窗口的性能。它通过引入有效的搜索识别和位置插值，以及采用渐进扩展策略，在256k训练长度内仅需1k微调步骤，从而实现高效的模型训练与优化。

XuanYuan-70B 是基于Llama2-70B模型进行中文增强的一系列金融大模型，包含大量中英文语料增量预训练之后的底座模型以及使用高质量指令数据进行对齐的chat模型。

OpenAI在2023年7月13日发布了一系列API更新，包括功能调用能力、更新后的模型版本、扩展上下文长度、成本降低以及旧模型的弃用计划。这些更新旨在提升开发者使用API的灵活性和效率，特别是在需要与外部系统交互或执行特定任务的应用程序中。

LLM Giraffe🦒可以用来扩展LLM的上下文长度，它实现了将LLAMA v1 2K的上下文长度扩展为4K和16K，支持长文本处理，优化上下文管理，易于集成到现有的LLM工作流中。

AceCoder项目旨在通过自动化流程大规模生成高质量、可验证的代码训练数据，从而提升代码生成模型的性能。

ChatWithCloud是一个CLI工具，利用生成性AI让用户在终端中用自然语言与AWS云服务进行交互。用户无需OpenAI API密钥，只需安装ChatWithCloud，即可轻松与AWS云进行沟通。

Octoverse是一个强大的AI助手平台，旨在帮助开发者创建能够理解并完成用户在应用中任务的AI伴侣。它的基础模型在功能调用方面超越了GPT-4o，支持多种用例，包括购物、旅行预订、视频流媒体、视频会议等，能够提升用户体验和应用的智能化水平。

ChatGPT Prompt Splitter 是一个实用工具，旨在帮助用户将过长的提示或文本分割成更小的部分，从而避免字符限制带来的困扰，方便进行信息提取和总结。无论是视频转录还是长文本摘要，这个工具都能高效地将信息浓缩为可管理的块，提升用户的工作效率。

该研究调查了小型Transformer如何使用下一个token预测目标有效地学习算术运算和基本函数，包括加法、乘法、平方根等。