transformers.js-chrome开源项目 – 浏览器中运行大语言模型

哔哩哔哩自研大语言模型，提供多样化的对话和角色扮演功能，支持多种评测基准，具有领先的性能表现

这篇论文对大语言模型的微调，从技术、研究、最佳实践、应用研究挑战和机遇等方面进行了详尽的回顾。

快速入门Llama 3.1的最小化方案库，支持本地推理和API推理，适用于不同模型大小和权重精度配置，提供多样化的笔记本和工具使用示例

Pocket LLM是一个平台，旨在使复杂的大语言模型和其他先进的人工智能技术对所有人都可访问。它提供定制化、私密的人工智能解决方案，这些解决方案在普通硬件上训练，具有超低延迟推理，消除了对GPU、TPU或定制ASIC的需求。用户可以在没有高级配置或GPU的情况下，仅使用CPU构建和部署数十亿参数的模型。

PAI-RAG是一个基于大语言模型和多向量数据库的知识库问答系统，提供灵活定制的高效信息检索功能，适用于各种自然语言处理任务，具有良好的扩展性。

一个可以与本地大语言模型聊天的网页应用，让你在本地运行AI模型，保护隐私的同时享受智能对话体验

一个用于搭建类似Perplexity的问答引擎的项目，结合了多种先进的技术和模型。

StyleLLM文风大模型是一个文本风格迁移项目，基于大型语言模型，提供四个经过中国四大名著训练的模型，能够支持多种文本风格的转换，适用于各种语言处理场景。

LLMParser是一个简单灵活的工具，旨在利用大语言模型从文本中进行分类和提取结构化数据。它支持多种文本格式，能够从非结构化文本中提取有用的信息，同时提供用户友好的接口和配置选项，以便用户轻松上手和定制自己的数据处理需求。

Scite是一个平台，通过展示研究文章是如何被引用的，帮助研究者发现和理解研究文章。它允许用户阅读引用的上下文，了解其是支持还是对立的证据。拥有超过12亿条智能引用，研究者可以找到各个主题的专家分析和观点。

智谱清言插件是由智谱AI推出的一款浏览器插件，支持Chrome和Edge浏览器，旨在提升用户的网络浏览、学习和创作效率。它提供多种功能，如划线工具、量子速读、站内高级检索和写作助手，目前完全免费且无限使用。该插件通过AI技术帮助用户快速获取和处理网页信息，特别适合需要高效学习和创作的用户。

LLM4EDA是一个致力于利用大语言模型技术提升电子设计自动化（EDA）效率的项目，涵盖电路设计和芯片设计的最新进展，并集成多种工具和资源以支持设计流程。

LLM4Decompile是致力于反编译的开创性开源大型语言模型，支持将Linux x86_64二进制文件反编译为人类可读的C源代码。该项目通过利用大语言模型，提高了反编译的准确性和效率，涵盖了多个优化级别，并提供了丰富的基准测试和训练数据集。

Native-LLM-for-Android 是一个让安卓设备能够直接运行大型语言模型（LLM）的项目。其核心价值在于将强大的LLM直接部署到安卓设备上，无需依赖云端，即可实现快速高效的本地推理。项目支持多种主流LLM模型，并提供了详细的量化和优化指南，帮助开发者进一步提升性能。

mcphost是一个基于Model Context Protocol（MCP）的CLI命令行应用，旨在让大语言模型与外部工具轻松互动。它支持多种模型，并具备动态工具发现与集成功能，能够通过交互式对话调用工具，显著提升工作效率。