Randomness Is All You Need: Semantic Traversal of Problem-Solution Spaces with Large Language Models

本文是LLM系列文章，针对《Randomness Is All You Need: Semantic Traversal of Problem-Solution Spaces with Large Language Models》的翻译。

随机性就是你所需要的：具有大型语言模型的问题解决空间的语义遍历

• 摘要
• 1 引言
• 2 相关工作
• 3 模型
• 4 算法
• 5 评估
• 6 实现
• 7 结论

摘要

我们提出了一种新的方法来探索创新问题和解决方案领域，使用LLM与自定义思想数据库进行微调。通过在不同的温度水平下语义遍历双向问题和解决方案树，我们实现了解决方案编辑距离的高度多样性，同时在语义上仍然接近原始问题语句。除了找到给定问题的各种解决方案外，这种方法还可以用于细化和澄清原始问题陈述。作为对该方法的进一步验证，我们实现了一个概念验证Slack机器人作为创新助理。

1 引言

2 相关工作

3 模型

4 算法

5 评估

6 实现

7 结论

我们已经证明，我们的思想遍历方法允许对思想链启发的问题解决方案树进行有效的语义控制探索。LLM温度、LoRA微调以及最近邻居搜索都有助于将生成的文本保持在语义区域内，同时仍然产生有趣（词汇不同）、新颖和创造性的解决方案和问题陈述。