Browser-Use 是一个开源的网页自动化库,能够让大型语言模型(LLM)与网站进行互动,通过简单的接口实现网页自动化操作,支持多标签管理、XPath提取和视觉模型处理。它兼容任意 LLM,适用于多种浏览器的自动化操作,可用于数据抓取和信息检索。
使用C语言加速的语言模型推理项目,旨在实现单个GPU单批次的硬件利用最大化,具有最小的实现和依赖。该项目通过高效的算法和实现方式,优化了GPU的性能,适合多种语言模型的应用场景。
CodeContests是一个用于机器学习的编程竞赛数据集,提供多样化的编程挑战,包括问题描述、解决方案和评估标准,旨在帮助开发者在编码任务中进行基准测试。
LogitsProcessors Zoo是NVIDIA开发的一款工具集,旨在为大语言模型(LLM)提供输出控制功能。通过一系列处理器,用户可以自定义和增强模型的行为,以满足特定需求。该工具集支持多种主流框架,如transformers、vLLM和TensorRT-LLM,能够帮助开发者优化模型的生成策略和内容多样性。
RLx2是清华大学团队提出的一种强化学习专用的稀疏训练框架,能够完全基于稀疏网络训练深度强化学习模型。
该项目允许用户在CPU上运行MPT-30B模型的推理,具有低训练和运行成本的特点。用户只需32G内存即可进行模型推理,适合各种文本生成和评估任务。
该项目提供了Vision Transformer在Tensorflow中的完整实现,支持多种数据集和任务,易于扩展和修改,并包含详细的使用示例和文档,帮助用户快速上手并深入了解模型的应用与性能。
EmbedJs是一个基于Node.js的RAG框架,旨在简化与大型语言模型(LLM)和嵌入工作的流程,支持个性化的LLM响应,使得开发者能够更高效地构建智能应用。
用Python字典构建复杂LLM应用的框架,简单直观,让你轻松打造自己的LLM应用。它支持构建复杂的代理系统,适用于生产环境,并且具有高灵活性和易于定制的特点。
TinyLLaMA是一个专为轻量语言模型设计的开源框架,为开发者提供在资源受限环境下构建高效模型的工具。
Magi是一个基于JAX的强化学习库,支持多种算法并提供灵活的环境接口,易于扩展和自定义,集成了评估和可视化工具。
这是一个正在开发中的SQLite扩展,旨在使用llama.cpp生成文本嵌入,适用于文本语义搜索和分析。
赤兔量化注意力:专注于量化注意力机制的高效 GPU 实现库,旨在加速长序列数据的处理速度,并且与 Long-Context-Attention 库无缝集成
一个由LLM驱动的文本到SQL语句的转换器。以后不需要学SQL了,大多数的SQL语句可以直接用自然语言做到。
Enclaver 允许在安全的 enclaves 中运行代码,确保代码在执行过程中不被任何人观察或篡改,类似于 iPhone 的 enclave,但可以在 AWS 服务器上运行。
assistant-ui是一个专为构建AI对话交互而设计的React组件库,提供预配置项目以便快速启动,并集成了OpenAI API,用户可以通过多种聊天界面示例轻松实现聊天功能。
AI Dev Gallery是一个开源项目,旨在帮助Windows开发者学习如何将本地模型和API集成到Windows应用中,提供丰富的示例和文档支持。
OpenDevin 是一个开源的自主 AI 软件工程师平台,旨在通过 AI 和大语言模型(LLMs)来简化软件开发过程。它支持从需求分析、代码编写、测试与调试到部署的全流程自动化开发,能够处理多种编程语言,并与人类开发人员协作完成复杂的软件工程任务。
Bolt.new-any-llm是一款支持在浏览器中使用多种大型语言模型(LLM)进行全栈Web应用开发、编辑和部署的工具。它不仅满足本地化老板的需求,还简化了网站项目的开发流程,使产品经理能够作为整个研发团队的核心。
JupyterLab笔记本中的智能助手,帮助用户在cell里轻松实现代码生成和优化,提升编程效率
面向中小学生的自托管编程学习平台,由LLM提供,旨在帮助教育者创建和学生学习编程教育内容
ZerePy 是一个开源的 Python 框架,旨在帮助开发者快速部署基于 OpenAI、Anthropic 或 EternalAI 的大型语言模型(LLM)AI 代理。它提供了一种灵活且易于扩展的架构,适合各种应用场景,并支持与其他应用的无缝集成,方便开发者进行定制和扩展。
ollama-copilot是一个类似于GitHub Copilot的代码辅助代理工具,允许开发者使用ollama作为智能代码助手,支持HTTP代理,兼容Neovim和VScode编辑器,旨在提升代码编写的效率与质量。
一个面向大语言模型的工具和数据源访问协议服务器集合。提供多种预置服务器实现,包括文件系统、GitHub、Google Drive、PostgreSQL等集成,让LLM能够以安全可控的方式访问各类外部资源。支持TypeScript和Python两种SDK开发。
CoreNet 是苹果公司开发的开源深度神经网络工具包,支持训练多种标准和新颖的小型和大型模型。它适用于对象分类、对象检测和语义分割等多种任务,允许研究人员和工程师使用基础模型(如 CLIP 和 LLM)进行高效的深度学习研究。
HugCoder是一个可以替代GitHub Copilot的代码助手,支持私有化部署和本地训练,能够根据公共存储库的代码内容进行微调,支持多种编程语言,提供智能代码补全功能。
Unsloth Zoo是一个提供用于Unsloth的实用工具库,旨在支持免费微调和加速大型语言模型,帮助开发者更高效地使用和优化语言模型。
GitHub Copilot 是一款基于 AI 的代码助手,能够帮助开发者自动生成代码和提供智能建议。支持多种编程语言,集成到多种开发环境,并提供代码片段和完整函数建议。用户可通过Web版使用,需GitHub Copilot账号。
Dify转OpenAI接口:将Dify API转换为OpenAI API格式的工具,使您能够在喜欢的OpenAI客户端中访问Dify的LLM、知识库、工具和工作流
Hollama是一个简洁的网页界面,用于与Ollama服务器进行对话,具备大型提示字段、Markdown渲染、代码编辑功能,以及自定义系统提示和高级Ollama参数设置,旨在提升用户与AI的交互体验。