Cold Compress是一个开源轻量工具包,旨在创建和基准测试基于GPT-Fast的缓存压缩方法,支持自定义和扩展KV缓存压缩技术,提供灵活的解决方案以优化数据存储和访问效率。
这是一个用于构建使用LangChain与Next.js的应用程序的启动模板,提供多种功能以简化开发过程。
Flow是一个轻量级的任务引擎,旨在构建AI代理,优先考虑简单性和灵活性。它采用动态任务队列系统设计,支持并发执行和动态调度,同时具备智能依赖管理、自动跟踪、状态管理和流式执行等功能。
Hugging Face生态(Transformers, Datasets, Tokenizers, and Accelerate等)使用教程,旨在帮助用户掌握各种工具和库,提供实践示例和交互式学习体验,适合不同水平的开发者。
一款能够处理PDF、Word文档等多种格式文件的自然语言处理工具,将结构化数据处理与spaCy的强大功能相结合,输出清晰、结构化的数据,并提供熟悉的Doc对象以访问标记文本区域
Hugging Face推出的Blender插件,用于AI生成3D网格模型。基于LLaMa-Mesh技术,只需输入文本描述即可生成相应的3D模型。
gpt-review是一个基于Python的命令行工具和GitHub Action,利用OpenAI或Azure OpenAI模型对拉取请求内容进行审查,帮助开发者提高代码质量。
实时、精细的大型语言模型合成数据资源列表,专注于为大型语言模型(LLM)提供数据支持,包括数据生成、优化和应用。
初步探索复现o1类多模态大型语言模型,旨在通过结合视觉和文本数据,提升模型的推理和理解能力,推动人工智能在复杂任务中的应用
支持ONNX模型量化的开源Python库,提供流行的模型压缩技术,如SmoothQuant和权重量化,适用于Intel硬件和流行的大型语言模型(LLM)。
minGPT是用PyTorch重新实现的GPT,旨在变得小巧、干净、可解释和具有教育意义,适合学习和研究。
介绍如何 DIY 一个端到端的 AI 辅助编程工具,类似于 GitHub Copilot、JetBrains AI Assistant、AutoDev 等。该项目包括从模型选型、数据集构建到模型微调的完整流程,旨在帮助开发者创建符合自身需求的编码助手。
Awesome-Agent4SE是一个关于软件工程中Agent的资源列表,汇集了大量关于如何将大型语言模型(LLM)应用于软件工程领域的研究论文。该项目旨在帮助开发者和研究人员更好地理解和利用这些技术,以提升软件开发的效率和质量。通过提供全面的调查、现状和未来展望,Awesome-Agent4SE成为了一个宝贵的资源库,适用于学术研究、开发项目以及教学培训。
LITMUS Predictor是一款强大的AI助手,旨在帮助开发者构建可靠、高性能且公平的多语言自然语言处理系统。它支持多种语言的处理,提供高性能和可靠性,并具备公平性评估功能,易于集成和使用,同时提供灵活的模型训练选项,以满足不同用户的需求。
一款强大可离线的开源 AI 桌面应用,能够对你的电脑进行 24 小时监控,通过屏幕录制、OCR、音频输入和转录收集信息,并保存到本地数据库。支持Ollama,替代Rewind.ai,数据归用户所有,使用Rust语言开发。
Lightrail 是一个开源的 AI 命令栏,旨在通过将基于 LLM 的工具集成到工程和开发工作流程中,简化软件开发过程。它支持多种功能,旨在提高开发效率和灵活性。
typical-sampling 是一个为 Jax、PyTorch 和 TensorFlow 打造的先进自然语言处理工具,支持典型采样算法,旨在优化模型训练和推理过程,提供易于集成的 API 以提升开发效率。
aisuite是吴恩达开源的Python库,旨在提供一个统一接口,让开发者可以轻松使用来自多个提供商的大型语言模型。支持OpenAI、Anthropic、Azure、Google等主流AI服务,使用类似OpenAI的接口设计,使得开发者能够无缝切换不同的LLM提供商进行测试和对比,无需修改代码。
一个包含多种自然语言处理教程的项目,涵盖了Transformer等模型的实现和应用。
PyLLMCore是一个提供与大型语言模型轻量级接口的Python库,旨在简化与LLM的交互,使开发者能够轻松集成和使用各种语言模型。
nlp-notebook 实现了 NLP 领域常见任务,包括新词发现、基于 PyTorch 的词向量、中文文本分类、实体识别、摘要文本生成、句子相似度判断等功能,旨在为用户提供便捷的自然语言处理解决方案。
SmolLM2是HuggingFace团队推出的轻量化AI模型系列,支持在资源有限的设备上运行,提供多个参数版本(135M、360M和1.7B),能够处理多种任务,特色是体积小、速度快,开发者友好,支持多种集成和部署方式。
Phoenix是一个notebook-first的Python库,利用嵌入技术发现LLM、计算机视觉(CV)、自然语言处理(NLP)和表格模型中的潜在现象和问题。它支持多种模型的可观察性,提供洞察发现工具,帮助识别和解决模型问题,并集成监控功能以实时跟踪模型性能,同时支持模型的微调和优化。
Rapidpages 是一个能够根据用户的文本提示自动生成外观精美网页的工具,支持使用 React 和 Tailwind 技术栈。用户可以自定义生成的组件,并快速构建响应式网页,帮助开发者提高效率。
SynapseML是一个轻量级、可扩展的分布式机器学习库,旨在支持大规模数据处理和机器学习任务。它与Apache Spark紧密集成,提供多种机器学习算法和丰富的数据预处理工具,能够与Azure服务无缝对接,适合在多种数据源和输出格式中使用。
ChatDev 是一个基于多智能体组织结构的虚拟软件公司,通过模拟不同角色(如首席执行官、首席技术官、程序员、测试员等)的智能体进行协作,完成从需求分析到代码交付的全流程自动化。它支持自然语言的定制软件创建,通过功能研讨会促进任务分配和协作,涵盖设计、编码、测试和文档等多个环节。ChatDev 提供了一个易于使用、高度可定制和可扩展的框架,基于语言大模型(LLM)为研究集体智能提供理想的场景。
Superagent 是一个功能强大的工具,可以简化 LLM(大型语言模型)代理到生产的配置和部署。它提供了多种功能,使得构建和管理 LLM 代理变得更加高效和便捷。
AutoChain 是一个轻量、可扩展的智能体框架,旨在帮助开发人员通过 LLM 和自定义工具构建自己的智能体。它通过模拟对话自动评估不同的用户场景,从而简化智能体的定制和评估过程,实现生成智能体的快速迭代。
苏秦(suqin)语言大模型全工具链 WebUI 整合包,旨在实现目前各大语言模型的全流程工具 WebUI 整合包,无需编写代码即可拥有自己的定制模型与专属应用。
Dendrite Python SDK是一个强大的工具包,旨在帮助开发者构建能够像人一样浏览网页、与网站元素进行互动并提取数据的网络AI Agent。它支持多种网页自动化任务,简化了网页自动化的实现过程,易于集成和使用。