nvcc4jupyter是一个用于Jupyter Notebook的CUDA C++插件,允许用户方便地在Jupyter环境中编写和执行CUDA C/C++代码,集成CUDA编译器,简化GPU编程与测试流程。
CUDA课程:为高性能计算(HPC)工作降低门槛,提供理解CUDA编程项目如Karpathy的llm.c的基础,整合分散的CUDA编程资源为一个全面、有组织的课程
fastllm是一个纯C++开发的全平台大模型加速库,具有无第三方依赖的特性,当前支持国产大模型如ChatGLM-6B和MOSS。该库在单卡上可实现超过10000个token每秒的处理速度,并且能够在安卓设备上流畅运行ChatGLM-6B,同时支持CUDA进行计算加速。
Codel是一个完全自主的AI代理,能够利用终端、浏览器和编辑器执行复杂的任务和项目。它通过高度智能的算法,能够自动化各种工作流程,提高效率并减少人为错误。该项目旨在为用户提供一个强大的工具,帮助他们在日常工作中实现更高的自动化水平。
Deepnote AI 是一款前沿工具,旨在革新数据项目的管理与执行,提供上下文相关的智能助手,适合数据科学家、分析师等用户,提升工作效率和准确性。
AnyCores 是一个深度学习编译器,旨在通过优化深度神经网络的性能来降低计算成本,提供超过10倍的加速效果。
挑战cuBLAS在单精度通用矩阵乘法性能极限的项目,通过优化CUDA代码,实现了在特定GPU架构和矩阵尺寸下超越cuBLAS的计算速度,为高性能计算领域提供了新的可能性。
该项目包含CUDA高频面试题和C++及CUDA相关的个人笔记,涵盖多个重要算法和概念,帮助开发者更好地准备技术面试。