生成式AI应用开发

NVIDIA NIM是一套加速推理微服务，支持在NVIDIA GPU上高效运行AI模型，覆盖云、数据中心、工作站和PC等多种平台。它通过预优化模型、标准化API和企业级安全功能，简化AI模型的部署流程，提升性能表现。

Azure AI Foundry 是由 Microsoft Azure 提供的综合平台，专注于生成式 AI 应用的开发和部署。它整合了 AI、数据、安全和应用的全生命周期管理，支持从模型选择到部署的整个流程，并注重安全性和隐私保护。平台提供了丰富的模型选择、无缝自定义功能，以及与多种开发工具的集成，适用于企业级 AI 项目的构建与扩展。

PydanticAI 是一个由 Pydantic 团队开发的 Python 代理框架，旨在简化使用生成式人工智能构建生产级应用程序的过程。它支持多种大语言模型（LLM），如 OpenAI、Gemini、Groq 等，并提供类型安全、依赖注入、流式响应验证和 Logfire 集成等功能。PydanticAI 适用于构建聊天机器人、内容生成器和决策支持系统等应用，并通过模块化设计允许开发者定制和扩展代理以满足特定需求。

Windows AI Studio是微软提供的官方工具，旨在帮助开发者在本地微调和测试AI模型，支持Phi 2、RAG以及Windows优化模型，整合了Azure AI Studio目录和Hugging Face等资源，确保隐私和数据安全。

Phoenix是一个notebook-first的Python库，利用嵌入技术发现LLM、计算机视觉(CV)、自然语言处理(NLP)和表格模型中的潜在现象和问题。它支持多种模型的可观察性，提供洞察发现工具，帮助识别和解决模型问题，并集成监控功能以实时跟踪模型性能，同时支持模型的微调和优化。

Enclaver 允许在安全的 enclaves 中运行代码，确保代码在执行过程中不被任何人观察或篡改，类似于 iPhone 的 enclave，但可以在 AWS 服务器上运行。

Public Prompts是一个由黎巴嫩一位热衷于技术与人工智能的初级医学医生创建的网站，旨在提供由CompVis和Stability AI团队开发的公共工具、知识、模型和提示。该网站支持Stable Diffusion技术，提供各种创意用途的提示、模型和嵌入的集合。用户可以浏览网站，根据可用的提示、模型或嵌入进行选择，探索不同类别，获取所需的创意资源。对于高级用户，网站还提供在本地运行AI和自行训练模型的资源。

Contentable.ai是一个端到端的生成式AI测试平台，帮助用户在选择采用前对多个AI模型进行A/B测试。用户可以在一个屏幕上通过一次点击对比速度、成本和输出，同时支持所有主要的AI供应商。

LLaMA.go是一个LLaMA模型的纯Go实现，类似于llama.cpp，但完全用Go编写。

stablediffusion api是一个强大的API，旨在让开发者专注于构建下一代AI产品，而无需担心GPU的维护。它提供了便捷的接口，支持用户生成和微调Dreambooth Stable Diffusion，极大地简化了图像生成的流程和技术门槛。

文章提出了一个七阶段的LLM微调流程，涵盖了从数据准备到模型部署的完整生命周期，提供了实用的技术和方法，以提升大规模语言模型的性能和应用效果。

DALLE-reproduction项目旨在重现OpenAI的DALLE模型，能够根据文本描述生成高质量图像，支持多种文本输入格式，并提供可扩展的模型架构和可调参数，以优化生成效果。该项目实现了多种训练和推理策略，适用于多种应用场景。

CLEVR数据集生成工具用于生成视觉推理任务的合成数据集，支持用户自定义场景参数，促进AI的视觉理解研究，且包含评估模型性能的工具。

Make CustomGPT是一个平台，旨在帮助用户轻松发现、比较和部署自定义的GPT模型。通过该平台，用户可以释放人工智能的潜力，找到最适合其项目的语言模型，并轻松进行定制，使AI更好地为他们服务。

2000 Fine Tuning Prompts是一个全面的资源，旨在帮助爱好者学习和实验微调，熟悉其在不同上下文中的功能和应用。

Aspen是一款专为macOS设计的免费API测试原生应用，利用AI助力快速生成数据模型、Open API规范及集成代码，满足REST API的测试需求。

modelkit是一个极简但功能强大的Python MLOps库，方便将机器学习模型快速部署到产品中，兼容多种框架，提供模型版本控制和多种数据源支持。

一个开源工具，旨在实现基于 Transformers 的 AI-First 过程自动化，将 Foundation Models（如 GPT-4 和 ACT-1）连接到 GUIs。