1024house开源项目 – 开源程序员的舒适居所

这是一个精心策划的Rust项目集合，涉及神经网络相关内容，旨在补充《我们学到了什么》。

DeepGEMM是一款采用CUDA编写的FP8通用矩阵乘法库，具有全JIT编译设计，简化了运维流程并提供卓越的计算性能。它支持稠密矩阵与混合专家（MoE）矩阵乘法，为V3/R1模型训练推理提供高效算力。DeepGEMM在NVIDIA Hopper架构上表现出色，最大性能提升2.7倍，支持细粒度缩放技术，解决FP8精度损失问题，并采用两级累加技术确保结果准确性。

Cradle 是一个 AI 框架，旨在提升基础智能体的能力，使其能够通过统一的接口执行复杂的计算机任务。该框架使用屏幕截图作为输入，键盘和鼠标操作作为输出，能够控制日常软件、专业软件以及多款游戏。目前支持自动操作 Chrome、Outlook、剪映、美图、飞书等软件，以及《荒野大镖客2》、《星露谷物语》、《都市：天际线》、《当铺人生2》等游戏。

KubeRay是一个强大的开源Kubernetes Operator，旨在简化在Kubernetes上部署和管理Ray应用程序的过程。它通过自定义资源定义，如RayCluster、RayJob和RayService，帮助用户轻松运行各种工作负载。KubeRay核心组件包括RayCluster、RayJob和RayService，分别用于管理Ray集群的生命周期、自动提交作业以及实现零停机升级和高可用性。此外，KubeRay还提供了社区维护的可选组件，如KubeRay APIServer和Python客户端，进一步简化了资源配置和管理。

Ollama 是一个轻量级、可扩展的框架，旨在让用户能够轻松地在本地运行和自定义大语言模型。它支持多种大语言模型，包括 Llama 3.1、Phi 3、Mistral、Gemma 2 等，并提供 OllamaGenerator 和 OllamaChatGenerator 组件，用于集成到 Haystack 2.0 管道中。Ollama 还支持自定义和创建自己的模型，提供方便的 Docker 容器部署方法，并支持文本嵌入和文档嵌入功能。此外，Ollama 在单机部署效率上提升了3倍，支持多平台（Windows/Mac/Linux）和硬件适配（自动识别CPU/GPU/NPU算力）。

ThinkGPT是一种基于LLM的自主智能体，旨在增强大型语言模型的能力，支持多种任务，并提供灵活的架构设计和强大的可扩展性。

本项目展示了如何使用 LangChain.js、TypeScript 和 Azure 创建一个无服务器的 ChatGPT 应用，旨在实现信息检索与生成的结合，提供灵活且可扩展的对话系统解决方案。

Hugging Face推出的Blender插件，用于AI生成3D网格模型。基于LLaMa-Mesh技术，只需输入文本描述即可生成相应的3D模型。

Aviary是一个基于Gymnasium框架的语言模型Agent训练平台，专注于构建性任务，提供了灵活的训练环境和多种模型集成，旨在满足研究和应用中的多样化需求。

StableFace是一个基于Stable Diffusion 2.1技术的开源项目，旨在帮助用户构建自定义的人脸编辑应用程序。项目通过一系列Jupyter笔记本教程，详细讲解了Stable Diffusion的各个方面，包括采样、架构、CFG、注意力层、反向调度器、枢轴反转和图像重构等。此外，StableFace还支持prompt2prompt编辑技术，能够实现对现实世界人脸的高度逼真编辑。

Awesome Mac是一个集合了从开发、设计到各种日常工具的Mac软件推荐平台，用户可以在这里找到适合自己需求的软件，项目内容持续更新与维护，方便用户查找和使用。

Copier-uv是一个为Python项目提供高效、现代化的项目模板管理工具。它集成了uv工具，简化了项目配置，自动化生成CHANGELOG，节省了时间，并支持多种开发工具，从而提升了开发效率。

Eliza是一个为Twitter和Discord平台设计的对话Agent，能够模拟多个角色进行实时交流。它支持语音频道，并具备阅读链接、PDF文件的能力，能够转录音频和视频内容，同时总结对话要点。此外，Eliza还允许用户扩展自定义动作和客户端，提供更加个性化的使用体验。

这个开源项目提供了一个免费的代理API，可以访问OpenAI的ChatGPT API。这个API可以用于聊天和机器学习等应用。

traiNNer是一个基于PyTorch的深度学习框架，旨在实现图像和视频的超分辨率、恢复以及图像到图像的翻译。它提供了灵活的模型结构，支持多种功能，适用于不同的图像处理需求。