LLMs-Finetuning-Safety开源项目 – 研究微调语言大模型的安全性对齐问题

Sleeper Agents项目旨在训练能够在安全培训中持续学习和适应的欺骗性大语言模型，以测试和研究其在不同环境中的表现和潜在威胁。该项目使用先进的机器学习技术，分析大语言模型的长期潜在威胁，确保其安全性。

本项目对大型语言模型中的上下文长度扩展进行了详细调研，讨论了现有策略、评估复杂性及研究者面临的挑战。

Webb AI 是首个支持人工智能的可靠性工程师，能够在不到5分钟内自动识别故障根本原因。它能够处理来自可观察性工具（如 Datadog）、云服务提供商（如 AWS）和基础设施（如 K8s）的警报，专门为 Kubernetes 基础设施和应用程序提供自动化故障排除，确保快速有效地解决云原生环境中的问题。

DevResume是一个免费的基于Web的简历编辑器，支持使用YAML格式编写简历，提供实时预览和PDF导出功能。

这是一个包含所有人工智能生成图片工具的合集开源项目，还包括了多种后期处理工具。

Postiz-App是一款开源的社交媒体管理工具，旨在帮助用户管理社交媒体帖子、建立受众、吸引潜在客户并促进业务增长。它结合了人工智能功能，优化内容的发布时间，并提供协作功能来管理和安排多个社交媒体账号。项目采用现代技术栈构建，包括NextJS、NestJS、Prisma和Redis，支持可扩展性、可靠性和有效的数据管理。Postiz-App适用于个人、团队和企业在Facebook、Instagram、LinkedIn、Twitter等平台上管理其社交媒体活动。

HeroGPT是一个强大的AI工具，旨在提升企业的营销效果。它提供了多种先进的AI功能，帮助用户在市场竞争中脱颖而出。

Gentopia是一个轻量可扩展的LLM驱动智能Agent和ALM研究框架，提供了构建、测试和评估智能Agent所需的基本组件，旨在简化智能Agent的开发与管理流程。

CompanyGPT 是一款利用人工智能帮助用户通过描述快速发现和构建公司列表的工具，用户可以通过分析多个指标，如员工增长、网站流量、广告支出、产品评价等，节省大量的研究和筛选时间。

CondoPack是专为公寓设计的智能包裹管理解决方案，旨在通过注册居民、捕捉包裹照片和自动识别及通知收件人来简化包裹管理流程。用户只需注册居民信息，拍摄包裹照片，系统将利用机器学习自动识别收件人并通过邮件或WhatsApp通知他们，极大提高了公寓包裹管理的效率。

该项目旨在通过结合多种自然语言处理模型，探索优化模型性能的新方法。它具有强大的可扩展性，适用于多种应用场景，并提供了用户友好的接口。

ComfyUI-HunyuanLoom 是一个包含用于 Hunyuan Video 模型的视频编辑节点集合的项目，旨在通过 FlowEdit 算法实现文本基础的视频编辑。这一工具使得用户可以灵活地创建和编辑视频内容，利用文本描述生成所需效果，并支持多种视频编辑节点，以满足不同的编辑需求。

mlx-lm是专为Apple硅片（如M1/M2/M3）优化的Python包，支持在macOS上高效运行和微调大语言模型。它深度集成Hugging Face Hub，提供模型量化、分布式推理、长文本处理等高级功能，特别针对Mac用户优化性能。项目支持Mistral/Llama等主流模型，提供文本生成、交互式聊天、模型转换等核心功能，并可通过LoRA微调适配专业场景。

Finster AI是一款专门为金融行业打造的尖端工具，利用先进的生成性AI技术深入分析金融数据，旨在为机构投资者提供精准、可靠的财务洞察。该平台由来自Google DeepMind和JP Morgan的专家开发，注重数据的准确性、可靠性和隐私保护。

AI-Researcher是香港大学数据科学实验室推出的开源自动化科学研究工具，基于大型语言模型（LLM）代理实现从研究想法到论文发表的全流程自动化。支持用户在两种模式下操作：一是提供详细的研究想法描述，系统据此生成实现策略；二是提供参考文献，系统自主生成创新想法实施。平台集成文献综述、想法生成、算法设计与验证、结果分析和论文撰写等核心功能，支持多领域研究，基于开源的基准测试套件评估研究质量。