AI-magic AI-magic

元生成算法

NeurIPS 2024 LLM推理教程代码开源项目 – 提升大型语言模型推理效率
NeurIPS 2024 LLM推理教程代码开源项目 – 提升大型语言模型推理效率

该项目提供了一个关于大型语言模型推理的教程代码，涵盖了多种生成算法、元生成算法及高效元生成算法，旨在提高模型推理的效率和效果。用户可以通过该教程学习如何实施不同的算法，以优化文本生成和推理性能。
EET开源项目 – 高效易用的Transformer推理解决方案
EET开源项目 – 高效易用的Transformer推理解决方案

EET是一个针对大型NLP模型的可扩展推理解决方案，旨在提供高性能的推理支持，特别是针对Transformer结构的大模型，同时支持长序列的场景，易于集成和使用。
LLM-Blender开源项目 – 通过集成多语言模型提升性能
LLM-Blender开源项目 – 通过集成多语言模型提升性能

LLM-Blender是一个通过配对排名和生成融合技术来集成多个语言模型的项目，旨在提升文本生成的准确性和质量。它结合了不同语言模型的输出，以提高性能，适用于需要高质量文本生成的多种应用场景。
DeepSeek-V3官网 – 高效且小巧的量化模型
DeepSeek-V3官网 – 高效且小巧的量化模型

DeepSeek-V3 的Q4_k_m 量化版本，大小比原本的小一半，兼容性强，适用于多种环境，提升处理效率，同时保留大部分原始模型性能。
Tree of Thoughts开源项目 – 增强模型推理的强大算法
Tree of Thoughts开源项目 – 增强模型推理的强大算法

Tree of Thoughts (ToT) 是一个强大而灵活的算法，能将模型推理能力提升多达70%。该插件式版本允许用户连接自己的模型，体验超智能的推理能力。
Decoding开源项目 – 增强LLM推理能力的Python库
Decoding开源项目 – 增强LLM推理能力的Python库

一个用于增强LLM推理能力的Python库，提供可组合的推理算法框架。支持自定义评分函数的采样和重排序模式，内置蒙特卡洛树搜索等高级算法，通过vLLM保持高性能，特别适合研究人员快速实验和迭代新想法。
Awesome LLM Reasoning Openai-o1 Survey开源项目 – 探索OpenAI o1的相关技术与推理
Awesome LLM Reasoning Openai-o1 Survey开源项目 – 探索OpenAI o1的相关技术与推理

该项目涉及与OpenAI o1相关的研究工作和背景技术，包括大型语言模型推理、自我博弈强化学习、复杂逻辑推理、规模法则等内容。
Look into the machine’s mind官网 – 探索机器思维的工具
Look into the machine’s mind官网 – 探索机器思维的工具

该项目利用ChatGPT API，通过反复运行相同的提示，分析大型语言模型如何为下一个词分配概率，从而生成完整的文本。
LLM Book开源项目 – 一本讲解大模型的实用电子书
LLM Book开源项目 – 一本讲解大模型的实用电子书

一本实用的电子书，讲解大模型的基本理论、预训练、微调与对齐、大模型使用及评测与应用等内容。
Monica图标

通过字节跳动免费使用满血可联网DeepSeek R1

现在注册，立即送145元代金券

字节跳动提供 DeepSeek R1、OpenAI o1、GPT-4o、Claude 3.5 和 Gemini 1.5等领先大模型

马上试试
AI-magic收录了大量国内外AI工具箱，包括AI写作、图像、视频、音频、编程等各类AI工具，以及常用的AI学习、技术、和模型等信息，让你轻松加入人工智能浪潮。
Copyright © 2025 AI-magic 浙ICP备19008543号-3