Chain of Thought Empowers Transformers to Solve Inherently Serial Problems-赋能变换器处理复杂串行任务

这是一个专注于大语言模型在数学推理方面应用的资源集合，旨在帮助用户更好地理解和利用这些模型解决各种数学问题。该项目汇集了多种与数学推理相关的大语言模型，提供丰富的示例和应用案例，同时包含使用不同数学工具和库的指南，支持多种数学问题的解决方案。

OpenAI兼容的API，用于TensorRT LLM triton backend，提供了与langchain集成的功能，支持高效推理和灵活后端配置。

Logic-of-Thought（LoT）旨在通过将逻辑注入上下文，提升大型语言模型的推理能力。该项目利用命题逻辑生成扩展的逻辑信息，并与现有的提示方法无缝集成，显著提升了多种提示方法在复杂任务中的性能。

openlogprobs是一个Python API，旨在通过语言模型API提取完整的下一token概率。它通过使用logit偏置来逆向工程标记的对数概率，支持topk搜索和精确解算法，从而有效提取语言模型API的完整概率向量。

该研究调查了小型Transformer如何使用下一个token预测目标有效地学习算术运算和基本函数，包括加法、乘法、平方根等。

ChatLM-mini-Chinese是一个中文对话0.2B小模型，旨在整理生成式语言模型的训练流程，包括数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等。

MoLE是一种针对混合专家模型（MoE）的优化架构，通过查表技术显著提升推理效率并减少显存使用。其核心创新是在推理前将专家网络重新参数化为查找表（LUTs），根据输入ID直接检索预计算结果，同时支持将专家卸载到存储设备。实验表明，在相同计算资源下，MoLE的推理速度可与密集模型媲美，且比传统MoE更快，同时保持模型性能不变。该技术特别适合大型语言模型等需要高参数规模和低延迟的场景。

Luminal是一款创新的AI工具，旨在提高数字工作流程的效率。它能够自动化许多传统上需要大量时间和精力的任务，帮助专业人士和组织优化运营。Luminal的设计注重用户体验，提供可定制的工作流程和智能分析，适用于各种行业和规模的用户。

TinyAI是一款口袋智囊应用，随时随地为用户提供智能帮助，甚至在没有互联网连接的情况下也能运作。它能够快速回答问题，进行有趣的对话，以及进行即时计算，是你日常生活中的得力助手。

Gaxu是一个个性化的按需营销助手，能够创建引人入胜的内容、总结多媒体资源、制作广告视觉，并支持各种营销查询，提供类似全规模营销团队的服务，且成本低廉。

Intercom 是一个将自动化与人工客服相结合的平台，旨在提供更快的解决方案、更高的客户满意度以及更轻的支持量。它提供了一系列产品和功能，以提高生产力、减少支持量、提供个性化的支持以及通过多种渠道与客户互动。

Hollo人才招聘套件是首个智能招聘平台，通过对候选人的源头、预筛选、互动和重新激活，帮助企业招聘最优秀的人才。它利用对话智能自动预筛选候选人，确保每个职位的合适人选。

Upheal是一个为心理健康专业人士设计的AI辅助平台，提供自动化的会议记录和分析功能，帮助专业人士提升实践水平。它可以与现有的电子健康记录系统（EHR）集成，适用于面对面会议、Zoom通话，或满足所有实践需求。Upheal支持与Google日历同步，用户只需分享链接即可在浏览器中进行符合HIPAA规定的会议。我们的AI助手将为您记录会议内容。

Beno是一个自动化客户外展平台，利用AI监控在线讨论，并用自然、类人响应与潜在客户互动，帮助企业提升在线存在感。

Brimink是一款基于人工智能的写作助手，旨在简化学术写作过程。它提供智能引用、AI建议、抄袭检查和实时协作功能。Brimink具备无缝集成和用户友好的界面，能够提升用户的生产力和写作表现。