OpenAI API替代

这是一个开源项目，旨在Windows操作系统上本地运行基于TensorRT-LLM的推理，从而替代OpenAI的云服务。它提供了加速推理的解决方案，并与使用OpenAI API构建的项目兼容，使得用户可以在本地环境中高效地进行自然语言处理任务。