Awesome-Prompt-Adapter-Learning-for-Vision-Language-Models-视觉开源项目 – 语言模型的Prompt/Adapter学习工具

Yachay AI是一个基于Byt5的地理标记模型，能够仅通过文本预测坐标。它为开发者提供了支持，以便构建和训练自己的模型，并在Github上提供相关资源和问答支持。

Composable Prompts是一个顶尖平台，旨在快速构建、测试和部署基于大型语言模型（LLMs）的任务和API。它为LLMs的世界带来了组合、模板、测试、缓存和可视化等功能，使开发者能够高效地创建强大的提示，重用它们，并在不同环境中进行测试。同时，它通过智能缓存优化性能和成本，并允许轻松切换模型和运行环境。

DirectAI使用户能够快速构建强大的计算机视觉模型，无需编码或训练数据。它利用大型语言模型和零样本学习，根据用户的描述生成适合的模型。

高级检索增强生成(RAG)技术合集，包含10种先进RAG实现方案的详细教程。从基础的Naive RAG到高级的Adaptive RAG，提供完整的代码实现和评估方法。使用LangChain、Pinecone等主流工具，适合研究人员和开发者学习和实践RAG技术

专注于训练和微调中等大小 GPT 模型的最简仓库，是 karpathy/nanoGPT 的一个分支，并提供了最大更新参数化（muP）的最小实现，旨在简化用户的使用体验和模型的优化过程。

Minions是一个通信协议，旨在实现本地小模型与云端大模型之间的高效协作，能够显著降低云端处理成本，同时灵活适配多种模型以满足不同需求。该项目结合了最新的研究成果，支持Ollama和OpenAI等前沿技术，极大地提升了模型的处理效率和灵活性。

Transformers相关文献资源大列表，包含了各种各样的Transformer模型，例如BERT、GPT、Transformer-XL等，这些模型已经在许多自然语言处理任务中得到了广泛应用。此外，该列表还提供了这些模型的相关论文和代码链接，为自然语言处理领域的研究人员和开发者提供了很好的参考资源。

OpenVINO Training Extensions是OpenCV的OpenVINO训练扩展，基于PyTorch的神经网络压缩框架（Neural Network Compression Framework, NNCF）。它专注于神经网络模型的压缩和优化，提供多种压缩技术，如量化、剪枝和蒸馏，并与OpenVINO工具套件无缝集成。该工具易于使用和扩展，支持多种深度学习任务，如图像分类、目标检测和语义分割。

FAMIE是一个快速的主动学习框架，专注于多语言信息抽取，旨在提高数据处理和模型优化的效率。它支持多种语言的信息抽取，提供用户友好的界面和灵活的模型配置，结合高效的数据标注工具，适用于快速迭代和评估不同的学习策略。

AutoKeras是一个开源的AutoML框架，专注于自动化机器学习模型的构建和优化，适用于各种机器学习任务。它通过自动搜索最佳模型和超参数，显著节省开发时间，同时其简洁的API设计降低了机器学习的门槛，使得即使没有深厚机器学习背景的用户也能轻松上手。

HiP Attention 是一种无需额外训练的后训练注意力机制，专为提升长文本处理效率设计。它通过分层剪枝技术实现子二次方复杂度，支持单GPU处理300万token的上下文长度，速度提升7.24倍，显著降低计算成本。项目基于OpenAI Triton实现，可无缝集成现有模型架构（如SGlang），适用于资源受限环境下的超长序列处理。

VLM-Visualizer是一个视觉-语言模型注意力可视化工具，旨在通过结合语言模型和视觉变换器的注意力权重，生成输入图像上的注意力图，以直观展示模型在生成特定令牌时关注图像的哪些部分。

MOSS-RLHF项目专注于研究大语言模型的强化学习从人类反馈（RLHF）机制，详细探讨了Proximal Policy Optimization (PPO)的内部运作，并提供了相关的代码实现，旨在推动对RLHF的理解和应用。

MOSS是一个支持中英双语和多种插件的开源对话语言模型，具有多轮对话能力和插件使用能力。

LLMPruner是一款专为大语言模型设计的裁剪工具，旨在优化模型性能并减少其参数量。它支持多种模型架构，并提供可视化工具，方便用户了解模型结构和裁剪效果，易于与现有机器学习工作流集成。

该项目记录了学习推荐系统过程中的知识产出，主要对经典推荐算法的原理进行解析，并提供代码实现示例。它支持多种推荐算法，易于扩展和修改，非常适合学习和研究推荐系统。

利用torchao和diffusers优化扩散模型的端到端方案，支持推理和FP8训练，旨在提升模型的性能和效率。

达摩院开源的视觉-语言预训练的语料库，包含从在线教学视频中提取的多模态数据，支持多种学科的学习和研究。