YOLOv9 QAT开源项目 – TensorRT优化的YOLOv9量化训练

D-FINE是一种创新的目标检测模型，通过重新定义边界框回归任务为细粒度分布细化（FDR）并引入全局最优定位自蒸馏（GO-LSD），解决了传统固定坐标回归中的优化难题和定位不确定性问题。D-FINE在检测延迟、模型大小和准确率方面显著优于其他16种目标检测模型，尤其适用于复杂场景下的实时目标检测。

K3s是一个轻量级的Kubernetes发行版，专为资源受限的环境和边缘计算而设计。它具有低资源占用、简单易用的特点，非常适合边缘计算和物联网设备的快速部署。K3s集成了SQLite作为默认存储，同时支持外部存储，确保高可用性，并与Kubernetes API兼容，支持大多数Kubernetes生态系统中的工具和应用。

mllm是一个专为移动和边缘设备优化的轻量级多模态大型语言模型推理引擎，能够在无需依赖外部库的情况下，支持多种模型和硬件架构，提供快速推理能力。

EdgeVLA是一个开源的边缘视觉-语言-行动模型，旨在增强机器人对视觉信息的理解和执行指令的能力。该项目专为边缘计算环境设计，支持社区贡献和改进。

Phi-3.5-mini-instruct (128k) 是微软于2024年8月发布的轻量级语言模型，属于Phi-3系列。该模型专注于指令生成任务，具有3.8亿参数，支持128K超长上下文，训练数据达3.4T tokens。采用密集解码器-only Transformer架构，在512张H100-80G GPU上训练10天完成。支持22种语言，在推理任务上表现接近GPT-4水平，特别适合资源受限或延迟敏感的应用场景，如移动端部署和边缘计算。

DataSky AI Cloud Box提供集成边缘计算、存储和WiFi 6的全方位AI解决方案，用户可以根据自身需求定制AI助手，适合家庭或办公室使用。

在ESP32微控制器上运行大型语言模型（LLM），探索其在资源受限环境下的可能性，特色包括使用tinyllamas模型和对llama.2c的优化以提高性能。

go-attention是一个纯Go语言实现的注意力机制和Transformer模型库，专为高性能和易用性设计。它不依赖任何外部库，非常适合边缘计算和嵌入式系统。该项目提供了高效的点积注意力机制，支持多头注意力和完整的Transformer层，功能强大且灵活。

VT-Transformer是一个基于第一性原理的AI模型转换器，采用宏展开的DSL技术，旨在优化各种AI模型在复杂硬件环境下的性能，特别是针对国产硬件。

Meta 发布的 Llama 3.1 1B和3B的官方量化版本，提供了更小的内存占用、更快的设备推理速度、准确性和便携性。

k3s-root 是 k3s 项目的核心组件，提供轻量级的 Kubernetes 解决方案，旨在简化容器管理和部署。

LLM API 提供了一套完整的、类型安全且一致的聊天接口，支持 OpenAI、Anthropic 和 Azure 的聊天模型，能够在浏览器、边缘计算和节点环境中灵活使用。

该项目由NVIDIA AI IOT开发，专注于优化YOLOv5的GPU性能，提升实时目标检测任务的速度和效率。

一个处理流式生成的JSON的库，能够从首个token开始解码，非常适合时间敏感的应用。

AI 教练是一个免费的在线工具，专门为Midjourney生成提示词，特别针对中文用户优化。它支持中文输入和自动翻译，降低了使用门槛，界面简洁无广告，无需注册即可使用。用户可以通过输入描述、选择模板、设置参数（如图像尺寸、模型版本、景深、质量和风格化等）来生成适合Midjourney的提示词。工具还提供提示词历史和词典，方便用户参考和学习。