知识蒸馏-将复杂模型的知识转移到小模型

LiteRT是Google AI Edge团队推出的高性能、可信赖的边缘AI运行时，旨在继承TensorFlow Lite的优势，并拓展其愿景，支持多种AI框架并优化资源利用率，方便集成和部署。

mllm是一个专为移动和边缘设备优化的轻量级多模态大型语言模型推理引擎，能够在无需依赖外部库的情况下，支持多种模型和硬件架构，提供快速推理能力。

sherpa 是一个针对 llama.cpp 模型的演示应用，专为移动设备设计，提供高效的模型推理和用户友好的界面。

Gemini是一个平台，用户可以在手机上直接访问谷歌最优秀的AI模型。通过下载应用并创建账户，用户可以使用多种AI模型进行不同的用途。

Brilliant推出的Introduction to Neural Networks课程

这是一本由李宏毅老师和Datawhale团队出品的电子书，整理了李老师的视频教程，涵盖深度学习的理论与实战，提供丰富的学习资源和配套代码，适合各层次的学习者。

Intel的LLM加速库，旨在通过使用Intel显卡和带NPU的CPU来加速主流深度学习框架的运行。

音频基础模型：支持多语言音频理解的端侧部署工具，具备极低推理延迟，适用于语音识别、语种识别、语音情感识别和声学事件分类/检测

CompressGPT 是一个提示压缩器，可以为大多数基于 LangChain 工具的提示减少约70% 的Token，只需更改一行代码，帮助用户在文本生成和处理时大幅降低成本和提高效率。

该项目是Siyuan Zhao论文《A Memory-Augmented Neural Model for Automated Grading》的源代码，专注于使用记忆增强神经网络模型进行论文的自动评分。该项目结合了深度学习技术，用于自然语言处理，能够基于内容和结构对论文进行自动评分，并在评分准确性上优于传统方法。此外，该项目可扩展性强，适用于大规模学生论文数据集。

该项目提供每周更新的机器学习领域内顶级论文，涵盖多个研究方向，并为用户提供论文摘要和关键点，支持用户提交和推荐优秀论文。

AlphaFold 3是由DeepMind开发的AI系统，用于从蛋白质的氨基酸序列中预测其三维结构。它通过深度学习技术和海量蛋白质数据训练，能够在几小时内完成蛋白质结构分析。AlphaFold 3已经预测了超过2亿种蛋白质的三维结构，涵盖几乎所有已知生命体，其预测结果接近实验数据的准确度。该项目提供了推理管道的实现，并允许用户通过特定流程获取模型参数。

SDXS是小米开源的AI绘画扩散模型，通过知识蒸馏技术和单步DM训练方法，显著提升了生图速度。SDXS系列包括SDXS-512和SDXS-1024两个模型，分别针对512x512和1024x1024分辨率的图像生成需求，单GPU环境下推理速度分别达到约100 FPS和30 FPS，相较于传统模型速度提升30至60倍。SDXS还支持ControlNet训练，适用于图像条件控制和图像到图像的高效转换。

该项目提供了现代深度学习技术在自然语言处理中的应用，包括多种模型和算法，结合实用代码示例，适用于多种NLP任务，文档易于理解，同时持续更新最新研究成果。

face_verification_experiment 是一个基于轻量级卷积神经网络（CNN）的深度学习项目，专为高效的人脸表示和验证任务设计。该项目通过优化网络架构，在保持高精度的同时显著降低了计算复杂度，适用于实时应用场景。其核心目标是为安全系统、移动应用和监控系统等提供准确且高效的人脸识别解决方案。

FaceChain是一个由阿里达摩院开发的开源工具，允许用户通过上传少量照片生成个性化数字分身。它结合了多种先进的图像生成模型和面部理解模型，支持在本地和云上运行，适用于个人头像、艺术创作、研究开发等多种场景。

‘英特尔创新大师杯’深度学习挑战赛赛道3专注于中文自然语言处理中的地址相关性任务，提供了一种基于深度学习的高效解决方案，包含模型训练、评估及开源实现，旨在促进社区的使用与贡献。

MATLAB是工程师和科学家用于多种应用的全面编程和数值计算平台，适用于数据分析、算法开发和模型创建，特别是在人工智能领域。

该项目使用TensorFlow框架，通过卷积神经网络（CNN）来预测股票价格走势。其核心目标是识别可能导致股价上涨的模式，从而为投资者提供有价值的参考。项目结合深度学习技术，专注于从历史数据中挖掘潜在的股票价格变化规律。

mCTSegmentation是一个专门用于人类骨软骨组织中微计算机断层扫描（micro-CT）图像的分割项目，特别关注于骨软骨组织的骨膜分割。该项目由奥卢大学的研究人员开发，采用深度学习技术进行分割任务，并且是开源的，代码可在GitHub上获取。

DeepPATH 是一个专门用于肺癌切片图像分类的深度学习项目。它利用先进的深度学习技术，能够高精度地识别和分类不同类型的肺癌。该项目是开源的，可在GitHub上公开使用，适用于医疗诊断、医学影像研究与开发、教育以及医疗影像软件的自动化分析集成。

该项目提供了一个系统的路线图，帮助学习者在2024年掌握生成人工智能的各个方面，包括Python编程、基本机器学习、自然语言处理、深度学习、高级NLP概念以及生成式AI的应用和部署方法，同时还介绍了向量数据库和存储的相关内容。

小型模型的妙用：在大型语言模型时代，探索小型模型的独特角色和应用，包括数据筛选、推理增强和知识蒸馏等

QLLM是一个通用的大语言模型量化工具箱，支持2-8位的LLM量化，用户可以轻松使用GPTQ和AWQ方法进行模型量化和压缩。该工具箱提供了易于使用的工具和接口，适用于多种大语言模型，旨在帮助用户在不同精度下评估模型性能。