斯坦福大学的研究者提出了一种名为Backpack的模型,以解决语言大模型中存在的偏见问题。该模型通过调整(sense vector)来干预模型的输出,使模型的行为更容易预测和控制,同时保持丰富的表现力。
Ctrl-G是一个为大型语言模型提供适应性逻辑控制的项目,旨在优化模型的输出,使其更符合用户的交互需求。该项目通过引入逻辑控制机制,提升模型的响应准确性和合理性。
为在强化学习(RL)智能体中嵌入和利用语言模型的能力,本文设计了一个以语言为核心推理工具的框架,探索了如何通过语言能力解决中的一系列挑战,包括高效探索、重用经验数据、调度技能和从观察中学习等。
OpenAI改进了大规模训练稀疏自动编码器的方法,以提取可解释特征并理解语言模型的神经活动。
Branches是一个基于图的高级算法原型工具,专为大型语言模型(LLM)的推理和规划设计,旨在提升模型的推理能力和优化决策过程。
imodelsX是一个专注于自然语言处理的可解释性模型,利用大型语言模型为数据集提供自然语言解释,增强NLP任务的透明度,并支持多种提示和模型选择。