Zero开源项目 – 简洁高效的Python微服务框架

提出一种高效的基于Intel GPU的LLM推理解决方案。通过简化LLM解码器层的结构，融合数据移动和逐元素操作，降低内存访问频率和系统延迟。同时，提出一种段KV缓存策略，将请求和响应token的键/值存储在不同的物理内存中，以有效管理设备内存，提高运行批处理大小和系统吞吐量。在Intel GPU上实现了该解决方案，并与标准的HuggingFace实现进行了比较，对于一些流行的LLM模型，在Intel GPU上实现的解决方案的令牌延迟降低了7倍，吞吐量提高了27倍。

Juice是一个软件项目，提供GPU-over-IP解决方案，使用户能够远程访问和共享可负担且易于获取的GPU资源。通过利用未使用的GPU容量（称为'Dark GPU'），Juice可以在不同的部署和提供商之间实现GPU的高效利用。用户只需在工作站或服务器上安装该软件，即可实现对GPU加速工作负载的直接远程访问。

Run Container VM (RunCVM) 是一个实验性的开源项目，旨在使启动标准容器化工作负载和系统工作负载在VM中变得像启动容器一样简单。

一款跨多服务器构建和部署软件的工具，无服务器数量限制，支持任意API自动化，开源免费

Hibiki是由Kyutai Labs开发的实时流式语音翻译工具，旨在实现跨语言无缝交流。它支持边说边译，保留说话者音色，并适配多种设备。当前主要支持法语到英语的翻译，未来可能扩展到更多语言。

扩散模型的极速推理工具，能快速处理复杂的图像生成任务，提升模型运行效率

Keyball是一款带有100%轨迹球的分体式键盘，重新定义了输入体验。它通过独特的轨迹球设计，实现了精准操控，无需鼠标。提供多款型号，包括39、44、61键布局，满足不同用户的需求。此外，Keyball采用开源固件，支持高度自定义，用户可以根据个人需求调整键位和功能。

TinyPilot是一个低于$100的KVM over IP解决方案，允许用户通过简单易用的Web界面远程访问和控制计算机。它支持多种操作系统，并通过USB接口连接设备，适合在家庭或办公室环境中使用，方便用户管理多台计算机。

shadPS4是一个早期的PlayStation 4模拟器，支持Windows、Linux和macOS平台，使用C++编写。该项目目前处于开发阶段，虽然尚未完全成熟，但已经能够成功运行多款PS4游戏，如《血源诅咒》、《黑暗之魂重制版》和《荒野大镖客》等。项目团队致力于定期更新，逐步提升模拟器的兼容性和性能。

该系统通过声音输入生成跨模态的3D面部模型，支持多种语音输入。

Hallucination Leaderboard是一个用于评估大语言模型在生成摘要时的幻觉表现的排行榜，旨在提高对模型输出质量的理解和评估方法的透明度。该项目总结了多个知名语言模型在对短文进行摘要时的幻觉产生频率，目前显示GPT-4和GPT-3.5表现最佳。

一个用于无损剪辑视频和音频的工具，支持 HDR 预览和输出，并能够保留多条音轨。

为家庭实验室设计的迷你机架项目，帮助爱好者打造便携式或紧凑型的设备收纳和管理方案。

Manim 是一个基于 Python 的开源动画引擎，专为创建解释性数学动画而设计。它通过编程方式生成精确的动画，特别适合制作数学教学视频。Manim 提供了丰富的动画效果和数学对象库，简化了复杂动画的创建过程。它最初由 3Blue1Brown 的 Grant Sanderson 开发，并由社区继续维护和改进。Manim 使用矢量图形引擎渲染动画，支持高保真输出和可缩放性。

Drag3D项目是将DragGAN的思想扩展到GET3D的尝试，以实现纹理网格的交互式生成和拖动编辑。项目提供了一个图形用户界面(GUI)进行演示，并在Github上提供了源代码和安装说明。支持在Ubuntu和Windows操作系统上使用，推荐在Windows上使用。用户可以通过GUI进行3D模型的生成、编辑以及材质和mesh的修改。