gla-jax 是一个专注于使用 JAX 和 Pallas 实现 Gated Linear Attention (GLA) 内核的项目，旨在高效处理长序列。该项目特别适用于语言建模等需要处理长序列的任务，提供了三种不同的 GLA 实现，优化了内存使用，并支持多尺度子分块，以提高计算效率。gla-jax 可以作为 Transformer 模型中标准注意力层的替代方案，为长序列处理提供更高效的解决方案。
这是一个关于状态空间模型的论文集合，旨在作为Transformer/注意力机制的替代方案。
NLP4SocialGood_Papers项目是一个汇集了社会公益领域内与自然语言处理（NLP）相关的重要文献和资源的阅读列表，旨在为研究人员和开发者提供最新的研究成果和参考资料，促进NLP技术在社会公益领域的广泛应用。
自然语言处理(NLP)新范式：交互自然语言处理(Interactive NLP)相关论文列表。交互式自然语言处理将语言模型视为能够观察、执行和接收反馈的智能体程序，可以与人类、知识库、工具、模型和环境进行循环交互。
截至目前，国内已经有了个 188 大语言模型，LLMs-In-China 收录了中国境内的多种大语言模型信息，提供模型的基本参数和性能指标，包含模型的使用案例和应用场景，并支持用户提交新的模型信息。
HELF 是一个利用广泛医学文献为医疗专业人士提供快速且相关的见解的框架，旨在改善医疗结果、简化护理流程并促进知识的普及。由一位医生创立，HELF 采用复合人工智能大语言模型，使医疗更加安全、高效。
从零开始构建大型语言模型的学习记录，记录了一步步构建语言模型的过程，适合想要深入了解NLP和机器学习的爱好者。
这篇论文对大语言模型的微调，从技术、研究、最佳实践、应用研究挑战和机遇等方面进行了详尽的回顾。
