基于LLM构建应用程序：设计指南

在前2节中，我们介绍了LLM的基本原理，以及如何在企业的真实业务中，应用LLM（大语言模型）。

如果感觉还不错的话，欢迎关注“AI产品经理社”，收看后续的专题更新。

今天我们来详细介绍一下：基于LLM构建应用程序：设计指南。

本文将以“智能客服”系统为例来进行说明，主要的阅读对象为产品或项目经理。整个设计指南，遵循以下流程：

一、  确立需求

第一步要先明确需求，即目前业务中的痛点，并且这个痛点是可以通过LLM的能力，来得到有效的改善。

建议使用以下“需求评估模版”，来综合性的分析需求。在分析需求的过程中，要重点评估ROI。毕竟LLM的实施，不管是调用第三方接口，还是部署开源LLM，都会有不小的成本支出。

----需求评估模版----

清晰明了的需求分析，不仅有利于向上资源申请，也有助于向下的需求沟通。

有的时候，得不到上下协作的支持，并不是因为他们反对你，而是他们缺少决策支撑。

二、市场调研竞品分析

市场调研和竞品分析，是最容易被忽略的环节，但是这个环节却相当的重要。如果不进行市场调研和竞品分析，仅局限于自身业务的个性化，而陷入具体的问题解决中，则会导致系统设计与整个市场脱节，在后续的迭代中以及对外赋能时遇到更大问题。

下文将以“智能客服系统”来举例。为了确保智能客服系统的持续竞争力，深入的市场调研和竞品分析必不可少。对于竞品分析，可以聚焦以下几个方面：

• 回答的准确性与丰富度：对比不同智能客服的回答是否准确且情感化。

• 响应速度与多轮对话能力：评估竞品的响应效率与多轮对话流畅度。

• 自定义业务知识库的支持情况：查看竞品是否支持特定业务场景的知识库，以及定制的难易度。

• 用户界面与交互设计：智能客服的易用性和界面设计对用户体验有重要影响，可借鉴竞品在界面设计上的优点。

通过调研了解市场主流趋势和竞品优劣势，有助于为我们智能客服的功能和流程设计提供重要的参考依据。

三、业务流程设计

通过前2个环节的梳理，我们基本上已经能够确定，整个业务的行业通用流程，以及自身业务的个性化诉求。

在业务流程设计的过程中，一方面需要考虑疏通现有业务的阻塞点，另一方面还需要考虑未来的业务扩展性，以及产品的更长远规划（比如，由内部孵化到外部商业化输出等）。

进行业务流程设计过程时，可以将行业内通用的流程，作为主业务流程，将自身业务的个性化诉求拆解到子流程中，这样一方面确保自身的业务诉求得到解决，另一方面确保未来的可扩展性。

智能客服的业务流程设计要充分考虑到实际客户服务的业务逻辑。主流程如下：

• 意图识别：通过LLM强大的自然语言理解能力来快速判断用户意图。

• 问题分类：根据问题意图将问题划分给不同的模块，并自动触发知识库查询等操作。

• 任务分派：将不同的任务分配到不同的任务处理智能体流程中；

• 多轮对话管理：通过上下文关联和指令工程实现对多轮对话的精准回应。

• 升级和转接机制：针对LLM无法处理的复杂或特殊问题，智能客服应具备及时转接至人工服务的功能，保障用户问题的全面解决。

业务流程的合理设计可以让任务实例在遇到不确定性或理解难点时，能有效调用备选方案或进入备用流程，最大程度地提升系统的稳定性和用户体验。

四、确定核心功能

通过以上环节的梳理，基本上可以确定系统的核心能力，接着还需要将其细化为具体的核心功能，这将构成未来系统迭代的蓝图。

以智能客服为例，对于智能客服，核心功能通常包括：

• 知识库构建：包括QA文档库、情绪词库、专业知识文档、以及API接口库等，维护好这些知识，便于LLM的学习和调用；

• 智能问答：支持基于知识库的快速回答、模糊匹配、模版回复等。

• 情感识别与回应：利用LLM生成符合用户情感的答案，以更具人性化的方式沟通。

• 多轮对话能力：在多轮对话中追踪上下文，确保用户的复杂需求得以满足。

• 智能转接：当LLM未能准确识别用户需求时，将对话无缝转接至人工客服。

• 自学习与优化：定期基于用户交互数据优化模型，让智能客服持续成长，适应业务变化。

确定核心功能后，我们可以根据优先级合理分配开发资源，以确保在有限的时间和预算内实现商业价值最大化。

五、产品流程设计

产品流程设计环节涉及如何让用户顺畅地使用智能客服的每一个功能，并确保对话流程的高效和准确性。产品流程节点包括：

1.  欢迎语和起始引导：为用户提供简洁友好的对话开场词，引导用户更好地使用智能客服。

2.  主任务流程：设计各类问题的基本应答流程和备选流程，涵盖用户的常见需求和意外问题。

3.  错误处理流程：当智能客服识别错误或理解不准确时，设计柔性引导流程，避免用户流失。

4.  终止对话与用户反馈：引导对话结束并收集用户反馈，以评估客服效果和用户满意度。

有效的流程设计不仅让用户体验更为流畅，也能够提升客服系统的服务水平。

六、  UI交互设计

UI设计直接影响用户的操作感受，因此UI界面和交互设计必须简洁、直观且贴合用户需求。

以下为关键点：

• 对话界面设计：提供简洁的对话框，突出聊天内容与选项，减少视觉干扰。

• 按钮与操作提示：通过适当的按钮设计，引导用户快速选择和进入不同服务流程。

• 输入交互：支持文本和语音输出，提高输入效率，让整个交互更流程。

• 多轮对话切换：为每轮对话提供清晰的上下文指示，让用户始终知道当前对话的状态。

• 即时反馈与情感化设计：通过动画和表情元素，让用户感到智能客服的温暖和亲切。

UI设计和交互设计的核心在于提供一致、清晰的用户体验，让用户无需培训即可轻松上手并持续使用。

七、  参与技术选型与研发

在完成设计工作后，作为产品和设计人员，同时也需要深度参与到技术的选型和研发中。

参与到技术中去，一方面，有助于我们了解更多的技术原理和特性，另一方面我们能够站在业务和产品的角度一起来评估技术的可行性，同时也方便后续的测试验收，以及未来要是出了问题，我们能够快速预判故障，提高解决问题的效率。

例如：在完成智能客服的需求评审后，参与到技术评审中（选型与研发），了解到其他研发团队已经私有化部署了Llama大模型，且算力充足，但是对模型效果上不确定是否可以满足，此时产品人员可介入与业务人员一起来作用例评估。

最后，项目经理需要注意，技术选型时要注意平衡功能需求、性能需求与开发成本，确保项目在实际应用中稳定运行。

以上，便是一个真实的基于LLM的应用程序的设计过程。其中LLM作为核心引擎，知识库作为LLM的服务升级燃料，不断的优化业务流程和系统能力，使LLM能够发挥出更大的作用。

下期预告：

今天详细的介绍了基于LLM的应用程序整体设计，为了更好的返回LLM的强大能力，LLM还有一些高阶应用，例如：提示工程、插件的使用、模型的微调等，欢迎关注“AI产品经理社”公众号，期待我们明天的分享。