XGrammar是一个开源的结构化生成库,支持通用的上下文无关文法进行广泛的结构化生成,提供经过系统优化的快速执行能力。
一个用于中文信息抽取的项目,基于LLaMA和Alpaca模型,结合LoRA技术进行微调。该项目旨在提供高效、准确的中文文本处理能力,特别是在命名实体识别(NER)方面,支持多种训练和评估配置,方便用户根据需求进行模型微调与集成。
只依赖pytorch、transformers、numpy、tensorboardX,专注于文本分类、序列标注的极简自然语言处理工具包
FlexGen: 针对面向吞吐量的场景在单个 GPU 上运行大型语言模型,旨在提高模型的运行效率和简化部署过程。
Wale IDE是一个提供直观界面的平台,支持用户导入数据或创建新数据集,调节参数以优化提示,并查看提示执行历史。
这是一个关于几何生成模型(GGM)的教程资料,旨在帮助用户理解和实现各种生成模型。它提供了理论背景、实际应用示例,并支持多种模型的实现,同时包含易于使用的代码示例以及最新的研究进展。
Woodpecker是一种用于多模态大语言模型的幻觉修正工具,旨在提高生成文本的准确性和可靠性。它支持多种输入类型和数据源,集成简单,易于使用,能够有效地纠正生成过程中出现的错误信息。
Phoenix是一个notebook-first的Python库,利用嵌入技术发现LLM、计算机视觉(CV)、自然语言处理(NLP)和表格模型中的潜在现象和问题。它支持多种模型的可观察性,提供洞察发现工具,帮助识别和解决模型问题,并集成监控功能以实时跟踪模型性能,同时支持模型的微调和优化。
HTTPie AI 是 HTTPie 的一种人工智能增强版本或演变。HTTPie 是一个受欢迎的命令行HTTP客户端,旨在通过提供简化、用户友好的界面来使开发者更容易地与Web服务器进行交云,特别是在进行API测试时。
llmchain是一个基于Rust语言开发的项目,旨在简化与大型语言模型的交互,支持现代数据变换,灵活构建AI服务,灵感来源于LangChain。
一个基于大语言模型的聊天机器人项目,旨在提供高效、灵活的对话体验。该项目支持多种大语言模型的集成,具备灵活的对话管理系统和可定制的响应生成策略,同时支持上下文记忆功能,易于扩展和集成到现有系统,满足各种使用场景的需求。