Editing Factual Knowledge and Explanatory Ability of Medical Large Language Models

本文是LLM系列文章，针对《Editing Factual Knowledge and Explanatory Ability of Medical Large Language Models》的翻译。

医学大语言模型的编辑事实知识与解释能力

• 摘要
• 1 引言
• 2 相关工作
• 3 方法
• 4 实验
• 5 结论
• 6 局限性

摘要

模型编辑旨在精确地修改大型语言模型（LLM）对特定知识的行为，同时保持无关知识不变。它已被证明能有效解决LLM中的幻觉和过期问题。因此，它可以促进LLM在许多关键领域（如医学领域）的应用，在这些领域，幻觉是不可容忍的。在本文中，我们提出了两个模型编辑研究，并在医学领域对其进行了验证：（1）直接编辑事实医学知识和（2）编辑对事实的解释。同时，我们观察到，当前的模型编辑方法与医学知识的专业化和复杂性作斗争。因此，我们提出了MedLaSA，一种用于医学模型编辑的新型分层可扩展适配器策略。它采用因果追踪来识别神经元中知识的精确位置，然后将可扩展适配器引入LLM的密集层。基于相应的