a1gpt是一个基于C++的GPT-2推理引擎,旨在提供高效的文本生成能力,支持多种输入格式并具备良好的可扩展性,使其便于集成到各种项目中。同时,a1gpt在内存管理方面进行了优化,以提升性能和效率。
MLX-Textgen是一款轻量Python包,旨在在兼容OpenAI的API端点上提供大型语言模型(LLM)服务。通过MLX实现的智能缓存机制,使得文本生成更加流畅与高效,适合多种文本生成任务,易于集成到现有应用中。
旨在实现基于熵的采样和并行链式思维(CoT)解码,目前支持 llama3.1+ 模型,计划支持 DeepSeekV2+ 和 Mistral Large (123B) 模型。该工具通过熵值优化生成过程,提高了生成文本的多样性和准确性,适合处理复杂的文本生成任务。
1000gpt是一个平台,提供由个人创作的各种定制GPT模型。用户可以根据自己的需求找到合适的语言模型,充分释放人工智能的潜力。
Writetone是一款Chrome扩展程序,帮助用户写作清晰、简洁且有效的文本,具备语法检查和摘要功能。该工具还可以帮助用户以所需的语气回复社交媒体消息。
Umělá inteligence Deeply 是一款未来派的 AI 应用程序,能够在一分钟内创建营销文本、博客文章、逼真的图形、社交媒体帖子、更好的内容、广告等。
GPT-3 是一个具有 1750 亿参数的强大语言模型,展示了更大的模型在多种实际任务中表现更好的现象。它在自然语言处理领域具有显著的优势,能够理解和生成多种形式的文本。
允许用户通过统一的 API 访问多平台的生成式模型,litellm的国内版,旨在简化模型调用和集成流程,提升开发效率。
minGPT-flax是一个基于Flax/JAX的基本变换器实现,旨在支持序列到序列建模,适合初学者和研究人员使用。
Lit-LLaMA是一个独立实现的LLaMA,完全开源,遵循Apache 2.0许可证,基于nanoGPT构建,旨在解决原始LLaMA代码在GPL许可证下的限制,以支持更广泛的学术和商业应用。
刚发布的 Llama 3.1 405B 是一款先进的 AI 模型,提供多种功能和应用场景。
Yi是一个专为高效语言模型设计的开源框架,支持从零开始训练的大型语言模型。它包含两款双语模型Yi-6B及Yi-34B,均自研训练,参数规模分别为6B和34B。Yi通过优化算法与资源管理,提供从实验到部署的完整流程,支持多种语言的文本生成、对话系统和问答任务。
Rigging是一个轻量级的LLM交互框架,旨在简化生产代码中语言模型的应用。它提供了结构化Pydantic模型与非结构化文本输出之间的互操作性,支持LiteLLM等多种语言模型。用户可以通过Python函数定义提示,进行异步批处理和快速迭代,非常适合大规模生成任务。
Sunset.ia是一个强大的AI工具应用,提供文本、图像、音乐等生成式AI工具,让用户能够轻松创造、创新和简化项目。
StableLM是Stability AI最新开源的大语言模型,目前开放的是3B和7B的版本,后续会开放更大规模的模型,适合商用。
由百川智能开发的一个开源可商用的大规模预训练语言模型,支持中英双语,基于Transformer结构,训练于约1.2万亿tokens,具有70亿参数,提供4096的上下文窗口长度,在标准的中文和英文权威benchmark(C-EVAL/MMLU)上均取得同尺寸最好的效果。
GLM-4-Voice 是由智谱 AI 开发的端到端中英语音对话模型,能够实时理解和生成中英文语音,并具备修改语音情感、语调、语速和方言等属性的功能。该模型支持情感共鸣、打断功能、多语言多方言,适用于灵活对话互动。
bricks是一个模块化的自然语言处理工具,包含分类器、提取器和生成器等众多基础模块,支持多种NLP任务,具有开源和易于扩展的特点。