machine-learning-list开源项目 – 新员工的机器学习课程

Promptology是一本指南，旨在帮助用户理解和利用AI工具和大语言模型（LLMs）来提升商业效率与运营。随着AI工具在过去六个月内吸引了数百万用户，本项目提供了关于如何通过掌握这些工具的知识来实现盈利的深入见解。

Cody是一个前沿的AI助手，专为企业定制，能够吸收公司特定知识，提供即时支持，解决问题，助力创意项目，极大优化时间和成本，提高工作效率。

freeCodeCamp 是一个开源的代码库和课程平台，致力于帮助人们免费学习编程。它提供从前端到后端的各种 Web 开发技术，以及数据科学和机器学习等领域的知识。课程设计注重实践，每个认证都包含多个项目，学习者需要在完成编码挑战的基础上逐步构建这些项目。

phi-1.5是微软发布的一个具有13亿参数的语言模型，在自然语言处理和复杂推理任务上表现优异，其性能可与体量大5倍的模型相媲美。该模型遵循‘教科书就是你需要的一切’的原则，并且不使用爬虫爬取的互联网数据。

3D-VisTA是一个具备3D世界识别能力的语言模型，能够基于3D世界模型回答相关问题，提供深度的理解与交互。

GPT-3 是一个具有 1750 亿参数的强大语言模型，展示了更大的模型在多种实际任务中表现更好的现象。它在自然语言处理领域具有显著的优势，能够理解和生成多种形式的文本。

critic-rl是一个通过强化学习教语言模型学会批判的项目，旨在让AI模型在无人监督下自我提升。该项目显著提升了语言模型在代码生成等任务中的表现，并具有模型无关性，适用于多种模型和任务。

Creative ML是一个基于JAX、PyTorch和Numpy的机器学习课程，提供丰富的实践示例和笔记本，适合初学者和有经验的研究者，涵盖创意机器学习的不同方面。

OpenAI改进了大规模训练稀疏自动编码器的方法，以提取可解释特征并理解语言模型的神经活动。

BD3-LM（Block Diffusion Language Model）是一种创新的语言模型，旨在通过结合自回归模型和离散扩散模型的优点，显著提升语言建模任务的性能。它通过在token块上执行自回归，并在每个块内进行离散扩散，实现了灵活且高效的建模方式。该模型特别适用于生成任意长度的序列，展现了其在自然语言处理领域的潜力。

最新发布的语言模型，包括编程模型和数学模型，性能更强，支持128K上下文，能生成最多8K的内容。

Amanu 是首个替代传统知识库的聊天助手，它能够从用户的消息、文档和会议中学习，像更有经验的同事一样回答问题，没有评判的语气。用户无需再费力搜索信息，只需直接向 Amanu 提问即可。

ChatGPT是目前使用最广泛的两个语言大模型之一，具备先进的自然语言处理能力，能够进行对话生成、文本理解等多种任务。研究人员观察到其模型性能随着时间的推移而变差，因此持续监测模型性能变化显得尤为重要。

Gemma Encoder 是一种新的编码器架构，改编自基于解码器的 Gemma 语言模型，适用于分类、回归和排序任务。通过系统研究注意力机制、池化策略、dropout 和填充策略，Gemma Encoder 在 GLUE 和 MS MARCO 基准测试中表现出色。当前代码尚未公开，但用户可根据论文方法自行实现，预计未来将发布代码。

康奈尔大学的Applied Machine Learning课程的执行课程笔记和幻灯片（2024年秋季版），讲授机器学习、数据挖掘和信号处理中的关键概念。

该项目能够自回归地完成复杂的标记序列，包括从随机过程中生成的任意序列到更丰富的空间模式。使用语言大模型驱动的策略可能会为词汇模式转化为动作提供新思路，但目前由于延迟、上下文限制和计算成本等问题，还难以在真实系统中部署。这些可以促进领域的发展，为更广泛的任务和应用提供基础和启示。