PatentGPT: A Large Language Model for Patent Drafting Using Knowledgebased Fine-tuning Method

本文是LLM系列文章，针对《PatentGPT: A Large Language Model for Patent Drafting Using Knowledgebased Fine-tuning Method》的翻译。

PatentGPT：一种使用基于知识的微调方法进行专利起草的大型语言模型

• 摘要
• 1 引言
• 2 相关工作
• 3 提出的方法
• 4 实验
• 5 基准测试
• 6 总结

摘要

随着人类站在技术创新新时代的边缘，将创意迅速转化为受保护的知识产权（IP）的能力比以往任何时候都更加重要。然而，传统的专利起草流程充满了挑战，要求对先进的领域知识和技术概念有细致入微的理解。现有的大型语言模型（LLM）虽然功能强大，但由于缺乏生成技术上准确的专利文件所需的专业知识和上下文意识，在这个知识产权创建领域往往不足。为了弥合这一关键差距，我们提出了一个开创性的LLM知识微调（KFT）框架，旨在赋予人工智能自主挖掘、理解和应用特定领域知识的能力。我们的模型PatentGPT利用了基于知识图谱的预训练、特定领域的监督微调（SFT）和基于人类反馈的强化学习（RLHF）的独特组合。通过广泛的评估，PatentGPT表现出了出色的性能，与最先进的模型相比，在专利相关的基准测试中得分高出约400%。通过KFT方法，该模型不仅能够帮助而且能够增强人类的创造力和创新能力，我们的方法为人工智能驱动的知识产权生成设定了新的标准，为更高效和有效的发明过程铺平了道路。

1 引