硬件加速器支持

tinygrad 是一个设计极简的深度学习框架，旨在提供 PyTorch 和 micrograd 之间的平衡。它以简洁性为特点，方便用户添加新的加速器，并支持推理和训练。tinygrad 实现了自动微分和张量库，并提供优化器和数据加载器等组件，支持神经网络的构建和训练。其核心优势在于极简的设计和强大的延迟执行能力，已成功用于训练 LLaMA 和 Stable Diffusion 等神经网络模型，支持在 GPU、TPU 和 FPGA 等多种加速器上运行。