Extreme-Multi-Patch Self-Supervised-Learning (EMP-SSL) – 高效自监督学习新方法

EMP-SSL是一种创新的自监督学习方法，通过增加每个图像实例中的图像块数量，显著提高了自监督学习的效率。该方法不依赖于常见的启发式技术，如分支之间的权重共享，并采用了特征归一化、输出量化和停止梯度等技术，使得训练时间减少了两个数量级，同时在多个数据集上实现了高准确率。

功能:

1. 不依赖于常见的启发式技术，如分支之间的权重共享
2. 采用特征归一化、输出量化和停止梯度等技术
3. 训练时间减少了两个数量级
4. 在多个数据集上实现了高准确率

特点:

1. 在CIFAR-10数据集上训练以达到85.1%的准确率
2. 在CIFAR-100数据集上训练以达到58.5%的准确率
3. 在Tiny ImageNet上训练以达到38.1%的准确率
4. 在ImageNet-100上训练以达到58.5%的准确率

相关导航

Maestro开源项目 – 加速多模态模型微调的工具

一个专为加速多模态模型（如 PaliGemma、Florence-2 和 Qwen2-VL）微调的工具，简化配置、数据加载、重现性和训练循环的设置。

Apache ECharts开源项目 – 强大的JavaScript图表库

Apache ECharts 是一个基于 JavaScript 的开源可视化库，专门用于生成各种交互式和高度可定制的图表。它支持多种图表类型，包括折线图、柱状图、饼图、地图和关系图等。ECharts 提供了强大的交互能力，支持数据缩放、拖拽、动态更新和图表联动效果。它兼容各种主流浏览器，并且可以无缝集成到微信小程序、Node.js 等平台。ECharts 采用 Canvas 和 SVG 双渲染引擎，能够高效处理大规模数据，渲染速度快。此外，ECharts 提供了丰富的配置选项，用户可以通过调整配置项来定制图表的每一个细节，从颜色到动画都可以自由调整。

Qwen2-VL开源项目 – 多模态大模型，理解长视频与文档

Qwen2-VL是由Qwen团队和阿里云开发的多模态大语言模型系列，能够处理时长超过20分钟的视频，同时在文档理解方面表现出显著优势。该模型支持多模态输入，能够处理视频和文本数据，适用于多种应用场景。

rasa NLU开源项目 – 自然语言理解工具

rasa NLU 是一个用于意图分类和实体提取的工具，旨在帮助开发者构建智能聊天机器人和虚拟助手。它支持多种语言，能够处理和理解自然语言输入，并从非结构化文本中提取结构化信息。rasa NLU 提供了可定制的处理管道，并与多种机器学习框架集成，拥有详细的文档和强大的社区支持。

SWE-RL开源项目 – 强化学习增强软件工程推理能力

SWE-RL是Meta发布的第一个使用强化学习（RL）专门用于增强大型语言模型（LLM）处理现实世界软件工程（SE）能力的RL方法。该项目专注于垂直细分领域的RL推理大模型，具有处理GitHub上issue问题、软件代码生成和项目bug修复等能力。通过开源软件演进数据和基于规则的奖励机制，推动大型语言模型推理能力的强化学习项目。

Ai2 Scholar QA开源项目 – 科学查询与文献综述助手

Ai2 Scholar QA 是一个专为科学查询和文献综述设计的 RAG 系统。它通过从多篇文档中检索证据并合成组织良好的报告，帮助研究人员快速获取科学问题的有依据答案。系统结合了语义检索与关键词搜索的高效检索组件，采用三步式生成管道（引文提取、计划聚类、摘要生成），并基于 Claude 3.5 Sonnet 的 LLM 生成能力。其模块化架构支持自定义管道，并配备了详细的事件追踪和日志系统。

Sparse-VideoGen开源项目 – 加速视频生成的框架

Sparse-VideoGen 是一个无需训练的视频生成加速框架，通过利用时空稀疏性来加速视频扩散模型，显著提升视频生成速度。该框架能够动态识别稀疏模式，适配多种视频生成模型，并支持 HunyuanVideo 和 CogVideoX v1.5，在单卡 H100 上表现出显著的加速效果。

DeepMind Lab2D开源项目 – 专为强化学习设计的2D虚拟环境平台

DeepMind Lab2D是由DeepMind开发的2D虚拟环境平台，专为强化学习（RL）和智能体训练设计。它提供了一个高度可定制且高效的训练环境，支持研究人员在各种AI任务中进行实验和优化。

mini_qwen开源项目 – 1B参数中英文大语言模型

mini_qwen是一个从头开始训练的1B参数的大型语言模型(LLM)项目，包括预训练(PT)、微调(SFT)和直接偏好优化(DPO)3个部分。该项目基于Qwen2.5-0.5B-Instruct模型，通过扩充模型隐藏状态层数、隐藏状态维度和注意力头数，增加参数量到1B，并进行参数随机初始化。支持中英文，预训练和微调仅需要12G显存，直接偏好优化仅需要14G显存。使用flash_attention_2进行加速，使用deepspeed在6张H800上进行训练，探究了尺度定律(scaling law)、复读机现象与微调阶段的知识注入。

DeepPATH开源项目 – 肺癌切片图像深度学习分类

DeepPATH 是一个专门用于肺癌切片图像分类的深度学习项目。它利用先进的深度学习技术，能够高精度地识别和分类不同类型的肺癌。该项目是开源的，可在GitHub上公开使用，适用于医疗诊断、医学影像研究与开发、教育以及医疗影像软件的自动化分析集成。

QuestionGeneration开源项目 – 问题生成研究论文集合

QuestionGeneration是由bisheng整理的问题生成研究论文集合，涵盖了问题生成领域的最新进展和多种方法技术。该项目旨在为研究人员提供便捷的资源获取途径，帮助他们快速了解和应用问题生成技术。

awesome-cloudflare开源项目 – 精选 Cloudflare 相关资源

精选的 Cloudflare 工具、开源项目、指南、博客和其他资源列表。为独立开发者提供一个省心省时的工具集，帮助提升开发效率和降低成本。