基于ChatGPT的端到端语音聊天机器人项目实战

 企业级ChatGPT开发入门实战

第1课 基于ChatGPT的端到端语音聊天机器人项目实战

1.4 使用FastAPI构建语音聊天机器人后端实战

在后端代码（backend）中调用了OpenAI API及其他的服务，如图1-10所示。

图1- 10 后端代码调用OpenAI API

openai_requests.py是一个相对比较简单的代码文件，在生产级开发中，一般都会有一个模型层，会分成前端、后端、模型这三个层次，设置模型层有一个很重要的点，无论是开发还是架构，能力不断进步或者解决问题的过程，其实就是解耦合的一个过程。在实际生产级别，会把模型作为一个具体的服务，在服务内部可以做很多事情，这是模型即服务（model as a service）。我们这个项目有好几个版本，现在给大家展示的版本是一个端到端完整可运行的项目，让大家感受一下，基于大模型驱动的对话机器人的整个开发流程以及具体的实现，从企业级的角度，有前端、后端、模型层，在这里我们简化了这个过程，在代码中，给大家写了非常清晰的注释，结合整个流程图，读者会很清晰的感受到它具体的执行过程以及代码本身的组织方式。

我们主要讲解后端，为了帮助大家学习，在后端跟大家做了很详细的日志记录，将所有的日志都输出到chatbot_backend.log日志文件中，在这里面会显示具体的详细过程。

main.py的代码实现：

1.   # uvicorn main:app

2.   # uvicorn main:app --reload

3.    

4.   # 导入库

5.   from fastapi import FastAPI, File, UploadFile, HTTPException

6.   from fastapi.responses import StreamingResponse

7.   from fastapi.middleware.cors import CORSMiddleware

8.   from decouple import config

9.   import openai

10.   

11.   

12.  # 自定义函数导入

13.  from functions.text_to_speech import convert_text_to_speech

14.  from functions.openai_requests import convert_audio_to_text, get_chat_response

15.  from functions.database import store_messages, reset_messages

16.   

17.  import logging

18.  logging.basicConfig(

19.          level=logging.DEBUG,

20.          format="%(asctime)s %(levelname)s %(message)s",

21.          datefmt="%Y-%m-%d %H:%M:%S",

22.          filename="chatbot_backend.log"

23.      )

24.   

25.  logger = logging.getLogger("Chatbot main.py fle Backend")

26.   

27.  """ 获取环境变量

28.  在这段代码中，config函数用于从环境变量中检索值。

29.  OPEN_AI_ORG和OPEN_AI _KEY环境变量应分别包含OpenAI的组织名称和API密钥。

30.  执行提供的代码后，openai.organization变量将被设置为“my_organization”， 

31.  这些值随后可以在代码中使用，以使用指定的组织和API密钥验证OpenAI API并与之交互。

32.  """

33.   

34.  openai.organization = config("OPEN_AI_ORG")

36.   

37.   

38.  """启动应用程序

39.  在这段代码中，创建了一个FastAPI类的实例，它表示FastAPI应用程序。

40.  此实例将用于定义应用程序的路由、端点和其他配置。

41.  """

42.  # 创建 FastAPI 类的新实例，并将其分配给变量

43.  app = FastAPI()

44.  """

45.  在该示例中，我们从FastAPI模块导入FastAPI类。

46.  然后，我们创建一个新的FastAPI实例，并将其分配给变量应用程序。

47.  这使我们能够使用应用程序实例来定义FastAPI应用程序的行为和路由。

48.  """

49.   

50.  """CORS - Origins

51.  在这段代码中，创建了来源列表，并用URL填充。这些URL表示允许的来源或域

52.  允许向服务器发出请求。CORS（跨来源资源共享）是一种允许web浏览器发出请求的机制

53.  到与提供网页的域不同的域。

54.  通过指定允许的来源，服务器可以控制哪些域被允许访问其资源。

55.  """

56.  # 创建一个名为“origins”的列表，其中包含多个作为字符串的URL

57.  # origins = [

58.  #     "http://localhost:5173",

59.  #     "http://localhost:5174",

60.  #     "http://localhost:4173",

61.  #     "http://localhost:3000",

62.  # ]

63.   

64.  origins = [

65.      "*",

66.  ]

67.  """

68.  在上面的示例中，原点列表由三个URL定义，这些URL可以根据应用程序的具体要求进行定制。

69.  在代码的后面，源列表可以在CORS中间件或其他配置中使用，以允许来自指定域的跨源请求。

70.  """

71.   

72.   

73.  """

74.  在下面的代码中，将CORS中间件添加到具有所需配置的应用程序中，包括allow_origins、allow_credentials、allow_methods和allow_headers参数。

75.  这确保了FastAPI应用程序正确处理CORS请求，并允许根据指定的配置进行跨源通信。

76.  CORS中间件被添加到FastAPI应用程序（应用程序）中。

77.  CORS中间件负责处理跨源资源共享并管理HTTP响应中与CORS相关的头。

78.  在应用程序对象上调用add_middleware方法来添加CORS中间件。

79.  使用CORSMiddleware类，并传递几个参数来配置其行为：

80.  allow_origins：指定允许请求的允许来源（域）。它采用了之前定义的起源列表。

81.  allow_credentials：指示是否允许在CORS请求中发送和接收凭据，如cookie或授权标头。在本例中，它设置为True。

82.  allow_methods：为CORS请求指定允许的HTTP方法。值[“*”]允许所有方法。

83.  allow_headers：为CORS请求指定允许的HTTP标头。值[“*”]允许所有标头。

84.   

85.  """

86.  # CORS -中间件

87.  app.add_middleware(

88.      CORSMiddleware,

89.      allow_origins=origins,

90.      allow_credentials=True,

91.      allow_methods=["*"],

92.      allow_headers=["*"],

93.  )

94.   

95.   

96.  """

97.  使用HTTPGET方法为/health路径定义了一个路由处理程序。@app.get-decorator用于将处理程序函数check_health与此特定路由相关联。

98.  check_health函数是一个异步函数（async-def），用于处理传入请求并返回指示健康状态的JSON响应。

99.  """

100.    # Check health

101.    @app.get("/health")

102.    async def check_health():

103.        logger.info(f'method check_health in main.py file is invoked')

104.        return {"response": "healthy"}

105.     

106.     

107.    # 重置对话

108.    @app.get("/reset")

109.    async def reset_conversation():

110.        reset_messages()

111.        logger.info(f'method reset_conversation in main.py file is invoked')

112.        return {"response": "conversation reset"}

113.     

114.    """

115.    使用@app.post装饰器定义了一个端点，用于处理对/post-audio/的post请求。端点需要一个上传的音频文件，该文件作为名为file的UploadFile参数接收。

116.    该代码执行以下步骤：

117.    上载的音频文件将临时保存到磁盘。

118.    保存的音频文件在读取模式下以二进制文件的形式打开（audio_input）。

119.    使用convert_audio_to_text函数将音频文件解码为文本。保护子句检查音频解码是否成功。否则，将引发HTTP异常。

120.    使用get_chat_response函数基于解码的音频生成聊天响应。消息和聊天响应使用store_messages函数存储在数据库或任何其他存储机制中。另一个保护条款检查是否获得了有效的聊天响应。否则，将引发HTTP异常。

121.    聊天响应使用convert_text_to_speech功能转换为音频。guard子句检查音频转换是否成功。否则，将引发HTTP异常。

122.    定义了一个生成器函数（iterfile）来生成块中的音频输出。音频输出作为流式响应返回，媒体类型设置为“application/octet-stream”。

123.     

124.     

125.     

126.    """

127.     

128.    # 使用post请求时不会在浏览器中播放

129.    @app.post("/post-audio/")

130.    async def post_audio(file: UploadFile = File(...)):

131.        logger.info(f'method post_audio in main.py file is invoked')

132.        # 要处理POST请求的终结点

133.     

134.        # 暂时保存上传的音频文件

135.        with open(file.filename, "wb") as buffer:

136.            buffer.write(file.file.read())

137.        audio_input = open(file.filename, "rb")

138.     

139.        # 将音频文件解码为文本

140.        message_decoded = convert_audio_to_text(audio_input)

141.     

142.        # 确保音频解码成功

143.        if not message_decoded:

144.            logger.error(f'Failed to decode audio method post_audio in main.py file is invoked')

145.            raise HTTPException(status_code=400, detail="Failed to decode audio")

146.     

147.        # 根据解码的音频获取聊天响应

148.        chat_response = get_chat_response(message_decoded)

149.     

150.        # 将消息存储在数据库或任何其他存储机制中

151.        store_messages(message_decoded, chat_response)

152.     

153.        # 确保有效的聊天响应

154.        if not chat_response:

155.            logger.error(f'Failed chat response method post_audio in main.py file is invoked')

156.            raise HTTPException(status_code=400, detail="Failed chat response")

157.     

158.        # 将聊天响应转换为音频

159.        audio_output = convert_text_to_speech(chat_response)

160.     

161.        # 确保音频输出成功

162.        if not audio_output:

163.            logger.error(f'Failed audio output method post_audio in main.py file is invoked')

164.            raise HTTPException(status_code=400, detail="Failed audio output")

165.     

166.        # 创建一个生成音频块的生成器

167.        def iterfile():

168.            yield audio_output

169.     

170.        logger.info(f'COMPLETE SUCCESS in method post_audio in main.py file call')

171.        # 将音频作为具有媒体类型的流式响应返回

172.        return StreamingResponse(iterfile(), media_type="application/octet-stream")

main.py代码实现了一个聊天机器人的后端服务，使用了Python的FastAPI框架和OpenAI的API。在最开始做设计的时候，FastAPI是最高效、也是最友好的框架，main.py代码的主要功能，初始化日志记录器，使用Python的logging模块记录日志；设置OpenAI的API密钥和组织；创建FastAPI应用程序实例；配置CORS中间件，以允许跨域请求；实现一个用于检查服务健康状态的端点/health；实现一个用于重置会话的端点/reset，该端点将清除所有之前的聊天记录；实现一个用于处理音频上传请求的端点/post-audio/，并将上传的音频文件转换为文本，然后将文本发送给聊天机器人，接收聊天机器人的响应并将其转换为音频输出。记录所有端点的调用情况和错误情况，使用日志记录器记录日志。

该代码的主要实现方法是使用FastAPI框架提供的装饰器来定义端点和处理函数，可以轻松地实现RESTful API的功能。此外，还使用了Python的logging模块来记录日志，以帮助开发人员更好地了解服务的运行状况和问题。另外，该代码使用了OpenAI的API来实现自然语言处理的功能，这是一种快速和方便的方式来实现聊天机器人的功能，实现了一个功能齐全，易于使用的聊天机器人后端服务。

上段代码中第140行，调用convert_audio_to_text方法，将用户的音频文件解码为文本。

OpenAI自己有Whisper的功能，可以做ChatGPT或者OpenAI API的开发，OpenAI有一个transcribe的方式，使用Whisper进行音频和文字的转换，这种API的调用，大家都不会有问题，而且注释也写得非常清楚。

openai_requests.py的convert_audio_to_text方法的代码实现：

1.    

2.   """

3.   convert_audio_to_text函数以audio_file作为输入，它表示要转换为文本的音频文件。

4.   该功能执行以下步骤：

5.   它使用OpenAI API通过Whisper模型转录音频文件。“whisper-1”参数指定用于转录的whisper模型的版本。

6.   转录的文本是从OpenAI API收到的响应中提取的。

7.   转录后的文本将作为函数的结果返回。

8.    

9.   """

10.  # Open AI - Whisper

11.  #将音频转换为文本

12.  def convert_audio_to_text(audio_file):

13.      logger.info("method convert_audio_to_text in openai_requests.py file is called")

14.      try:

15.          #  使用OpenAI API转录使用Whisper模型的音频文件

16.          transcript = openai.Audio.transcribe("whisper-1", audio_file)

17.   

18.          # 从响应中提取转录的文本

19.          message_text = transcript["text"]

20.   

21.          # 返回转录后的文本

22.          return message_text

23.      except Exception as e:

24.          logger.error("Error happend in OpenAI Audio Transcribe in method convert_audio_to_text in openai_requests.py file")

25.          return

上段代码中第148行，调用get_chat_response方法，根据解码的音频文本，发送给 接口，获取聊天响应。

上段代码中第151行，收到信息之后，调用store_messages方法，将消息存储在数据库或任何其他存储机制中，这边存储在stored_data.json文件中，可以看见系统和用户的交互的内容。

stored_data.json的文件记录：

[{'role': 'assistant', 'content': "As an AI language model, I don't have emotions, so I don't have good or bad days. However, I'm always ready to helpwith any task you need assistance with."}，{'role': 'user', ' content': 'Hi, how are you doing today?'}，{'role': 'assistant', 'content': "Hello! As an AI language model, I'm just a computer program, soI don't have emotions or feelings. But I " m functioning properly and ready to assist you with any task you need help with!"}，{'role': 'user', 'content': "Wow, that's great to know. So what can you do? Tell me what specifically you can do for me.Please use English to provide your response"}]

上段代码中第159行，调用convert_text_to_speech方法，将聊天响应转换为音频，在text_to_speech.py文件的convert_text_to_speech方法中调用了api.elevenlabs.io接口，并设置 环境的内容， 。

text_to_speech.py的convert_text_to_speech方法的代码实现：

1.   import requests

2.   from decouple import config

3.    

4.   import logging

5.   logging.basicConfig(

6.           level=logging.DEBUG,

7.           format="%(asctime)s %(levelname)s %(message)s",

8.           datefmt="%Y-%m-%d %H:%M:%S",

9.           filename="chatbot_backend.log"

10.      )

11.   

12.  logger = logging.getLogger("Chatbot text_to_speech.py file Backend")

13.   

14.  # 从环境变量中获取`ELEVEN_LABS_API_KEY`的值

15.  ELEVEN_LABS_API_KEY = config("ELEVEN_LABS_API_KEY")

16.   

17.  """

18.  导入请求库以发出HTTP请求，使用decouple的config函数从环境变量中检索ELEVEN_LABS_API_KEY的值。

19.  convert_text_to_speech函数采用消息参数并执行以下步骤：

20.  它定义了请求主体，包括要转换的文本和语音设置。

21.  定义了不同语音的语音ID（例如，Voice_shaun、Voice_rachel、Voice_antoni）。

22.  构造了请求头和URL端点，包括ELEVEN_LABS_API_KEY。

23.  try-except块用于处理请求过程中可能发生的任何异常。

24.  requests.post方法用于向Eleven Labs API发送post请求，其中包含提供的正文和头。

25.  如果响应的状态代码为200（表示成功），则返回在响应中接收到的内容（音频数据）。

26.  如果响应具有任何其他状态代码，则返回None。

27.  """

28.   

29.  def convert_text_to_speech(message):

30.   

31.      logger.info(f'method convert_text_to_speech in text_to_speech.py file is invoked')

32.      # 定义文本到语音转换的请求正文

33.      body = {

34.          "text": message,

35.          "voice_settings": {

36.              "stability": 0,

37.              "similarity_boost": 0

38.          }

39.      }

40.   

41.      # 为不同的语音定义语音ID

42.      voice_sam = "xxxx"

43.      voice_gavin = " xxxx "

44.      voice_chris = " xxxx "

45.   

46.      # 构造请求 头和UR

47.      headers = {

48.          "xi-api-key": ELEVEN_LABS_API_KEY,

49.          "Content-Type": "application/json",

50.          "accept": "audio/mpeg"

51.      }

52.      endpoint = f"https://api.elevenlabs.io/v1/text-to-speech/{voice_gavin}"

53.   

54.      try:

55.          # 向Eleven Labs API发送POST请求

56.          response = requests.post(endpoint, json=body, headers=headers)

57.      except Exception as e:

58.          logger.error(f'Error happened when Send the POST request to the Eleven Labs API in method convert_text_to_speech in text_to_speech.py file is invoked')

59.          return

60.   

61.      if response.status_code == 200:

62.          # 返回响应中接收到的内容（音频数据）

63.          return response.content

64.      else:

65.          logger.error(f'Error happened when Send the POST request to the Eleven Labs API with code {response.status_code}')

66.          return

为了帮助大家学习，我们重点看一下和OpenAI大模型的交互，设置OPEN_AI_ORG、OPEN_AI_KEY等相关的内容，调用gpt-3.5-turbo模型，输入模型信息，这个信息本身，我们统一称之为提示词，它有4大核心的组件。gpt-3.5-turbo大模型是大家做实验的时候经常使用的，不过作者现在所在的公司及所做的项目，正常都使用GPT4，GPT4才是一个真正划时代的大模型，因为它的推理能力太强大了。

openai_requests.py的get_chat_response方法：

1.   …

2.   openai.organization = config("OPEN_AI_ORG")

4.   …

5.   """

6.   get_chat_response函数采用message_input参数，该参数表示用户对聊天机器人的输入消息。

7.   该功能执行以下步骤：

8.   它使用get_recent_messages函数从数据库或存储中检索最近的聊天消息。

9.   它根据用户提供的message_input创建一个新的用户消息，并附加与语言使用相关的附加说明。

10.  新用户消息将添加到现有消息中。打印这些消息进行调试。

11.  OpenAI聊天完成API使用OpenAI.ChatCompletion.create方法调用，将消息作为输入传递，以生成聊天响应。

12.  生成的消息文本是从API响应中提取的。

13.  生成的消息文本将作为函数的结果返回。

14.   

15.  """

16.  # Open AI - Chat GPT

17.  # 获取聊天响应

18.  def get_chat_response(message_input):

19.      logger.info("method get_chat_response in openai_requests.py file is called")

20.      # 从数据库或存储中检索最近的信息

21.      messages = get_recent_messages()

22.   

23.      # 根据输入创建新的用户消息

24.      user_message = {

25.          "role": "user",

26.          "content": message_input + "  Please use English to provide your response"

27.      }

28.   

29.      # 将新用户消息附加到现有消息

30.      messages.append(user_message)

31.   

32.      # 打印消息以进行调试

33.      print(messages)

34.      logger.info(f'method get_chat_response existing messages {messages}')

35.   

36.      try:

37.          # 调用OpenAI聊天完成API生成聊天响应

38.          response = openai.ChatCompletion.create(

39.              model="gpt-3.5-turbo",

40.              messages=messages

41.          )

42.   

43.          # 从API响应中提取生成的消息文本

44.          message_text = response["choices"][0]["message"]["content"]

45.   

46.          logger.info(f'method get_chat_response message from OpenAI API call {message_text}')

47.          # 返回生成的消息文本

48.          return message_text

49.      except Exception as e:

50.          logger.error("Exception in calling OpenAI api")

51.          return

1.5 ChatGPT语音聊天机器人改进

但是这里面有一个很重要的问题，从企业级的角度，模型产出的结果可能不符合你的预期，这边有三种情况，第一种是满意度不高，模型给的回复可能是一部分是正确的，但另外一部分是很有问题的；第二种是模型给的结果是错的；第三种是模型给的结果根本就不相关。不相关和错误的结果，其实是两种类型，因为不相关表明模型根本就不理解你输入的内容是什么，这也再次说明了提示词的重要性。如果出现这种情况，怎么去处理？基于大模型应用程序的开发，结果是很重要的新的上下文，这类似于贝叶斯Bayesian，整个Transformer架构是NLP思想的一个实现，如果它出现了问题，三种类型是部分正确、错误以及不相关，无论是什么信息，模型进一步优化它的结果新的上下文，这是贝叶斯Bayesian基本思想的一个表现。

作者收到美国一个大学教授分享的一篇MIT的论文，论文背后有很多数学的部分，相信这篇论文应该是一个非常愉悦的阅读体验，因为作者最近在做一个很重要的工作，是有状态提示词（stateful prompting），如果读者感兴趣，可以跟作者进一步深度交流，MIT这篇论文的基本思想和现在的思维链提示词（CoT）不一样，它针对目前已有的问题，使用一种链式的过程，把不同对话中的提示词形成一个链条，然后基于这个链条形成一个上下文，类似于天气预报，昨天的天气情况大概率会影响今天的天气，今天的天气和昨天的天气大概率会影响明天的天气，论文使用了这个思想。从项目的角度或者做企业级最佳实践的角度，无论使用模型，还是对模型本身的结果进行优化，其实一个核心性的组件，都是更明确清晰的上下文，而结果无论是部分正确或部分错误、还是错误的结果、或者完全不相关的结果，这些都是至关重要的上下文。大家通过朴素贝叶斯的思想，比较容易知道概率模型，在重试的时候，不要以简单粗暴方式重试，而应该拿上这个结果，加上你的判断进行重试，你看见那个结果，告诉它不正确，然后你重新生成，这也会有效果，在很多情况下，你应该设立好自己的框架，一个很重要的技术叫Langchain，它做的一个很重要的工作，就是帮你封装了部分此类的操作。

本节跟大家分享了一个很重要的企业级的最佳实践，通过提供一个端到端的项目，大家体验一下基于大模型驱动的应用程序。

《企业级ChatGPT开发入门实战直播21课》报名课程请联系：

Gavin老师：NLP_Matrix_Space

Sam老师：NLP_ChatGPT_LLM

我们的两本最新书籍年底即将出版：

l  《企业级Transformer&ChatGPT解密：原理、源码及案例》

l  《企业级Transformer&Rasa解密：原理、源码及案例》

《企业级Transformer&ChatGPT解密：原理、源码及案例》本书以Transformer和ChatGPT技术为主线，系统剖析了Transformer架构的理论基础、模型设计与实现，Transformer语言模型GPT与BERT，ChatGPT技术及其开源实现，以及相关应用案例。内容涉及贝叶斯数学、注意力机制、语言模型、最大似然与贝叶斯推理等理论，和Transformer架构设计、GPT、BERT、ChatGPT等模型的实现细节，以及OpenAI API、ChatGPT提示工程、类ChatGPT大模型等应用。第一卷介绍了Transformer的Bayesian Transformer思想、架构设计与源码实现，Transformer语言模型的原理与机制，GPT自回归语言模型和BERT自编码语言模型的设计与实现。第二卷深入解析ChatGPT技术，包括ChatGPT发展历史、基本原理与项目实践，OpenAI API基础与高级应用，ChatGPT提示工程与多功能应用，类ChatGPT开源大模型技术与项目实践。

ChatGPT 技术：从基础应用到进阶实践涵盖了ChatGPT技术和OpenAI API的基础和应用，分为8个章节，从ChatGPT技术概述到类ChatGPT开源大模型技术的进阶项目实践。

1.     ChatGPT技术概述：主要介绍了GPT-1、GPT-2、GPT-3、GPT-3.5和GPT-4的发展历程和技术特点，以及ChatGPT技术的基本原理和项目案例实战。

2.     OpenAI API基础应用实践：主要介绍了OpenAI API模型及接口概述，以及如何使用OpenAI API进行向量检索和文本生成。

3.     OpenAI API进阶应用实践：主要介绍了如何使用OpenAI API基于嵌入式向量检索实现问答系统，如何使用OpenAI API对特定领域模型进行微调。

4.     ChatGPT提示工程基础知识：主要介绍了如何构建优质提示的两个关键原则，以及如何迭代快速开发构建优质提示。

5.     ChatGPT提示工程实现多功能应用：主要介绍了如何使用ChatGPT提示工程实现概括总结、推断任务、文本转换和扩展功能。

6.     ChatGPT提示工程构建聊天机器人：主要介绍了聊天机器人的应用场景，以及如何使用ChatGPT提示工程构建聊天机器人和订餐机器人。

7.     类ChatGPT开源大模型技术概述：主要介绍了类ChatGPT开源大模型的发展历程和技术特点，以及ChatGLM项目案例实践和LMFlow项目案例实践。

8.     类ChatGPT开源大模型进阶项目实践：主要介绍了类ChatGPT开源大模型的进阶项目实践，包括基于LoRA SFT+RM+RAFT技术进行模型微调、基于P-Tuning等技术对特定领域数据进行模型微调、基于LLama Index和Langchain技术的全面实践，以及使用向量检索技术对特定领域数据进行模型微调。

本书适用于NLP工程师、AI研究人员以及对Transformer和ChatGPT技术感兴趣的读者。通过学习，读者能够系统掌握Transformer理论基础，模型设计与训练推理全过程，理解ChatGPT技术内幕，并能运用OpenAI API、ChatGPT提示工程等技术进行项目实践。

Transformer作为目前NLP领域最为主流和成功的神经网络架构，ChatGPT作为Transformer技术在对话系统中的典型应用，本书内容涵盖了该领域的最新进展与技术。通过案例实践，使理论知识变成技能，这也是本书的独特之处。

《企业级Transformer&Rasa解密：原理、源码及案例》：是一本深入介绍Rasa对话机器人框架的实战开发指南。本书分为两卷，第一卷主要介绍基于Transformer的Rasa Internals解密，详细介绍了DIETClassifier和TED在Rasa架构中的实现和源码剖析。第二卷主要介绍Rasa 3.X硬核对话机器人应用开发，介绍了基于Rasa Interactive Learning和ElasticSearch的实战案例，以及通过Rasa Interactive Learning发现和解决对话机器人的Bugs案例实战。

第一卷中介绍了Rasa智能对话机器人中的Retrieval Model和Stateful Computations，解析了Rasa中去掉对话系统的Intent的内幕，深入研究了End2End Learning，讲解了全新一代可伸缩的DAG图架构的内幕，介绍了如何定制Graph NLU及Policies组件，讨论了自定义GraphComponent的内幕，从Python角度分析了GraphComponent接口，详细解释了自定义模型的create和load内幕，并讲述了自定义模型的languages及Packages支持。深入剖析了自定义组件Persistence源码，包括自定义对话机器人组件代码示例分析、Resource源码逐行解析、以及ModelStorage、ModelMetadata等逐行解析等。介绍了自定义组件Registering源码的内幕，包括采用Decorator进行Graph Component注册内幕源码分析、不同NLU和Policies组件Registering源码解析、以及手工实现类似于Rasa注册机制的Python Decorator全流程实现。讨论了自定义组件及常见组件源码的解析，包括自定义Dense Message Featurizer和Sparse Message Featurizer源码解析、Rasa的Tokenizer及WhitespaceTokenizer源码解析、以及CountVectorsFeaturizer及SpacyFeaturizer源码解析。深入剖析了框架核心graph.py源码，包括GraphNode源码逐行解析及Testing分析、GraphModelConfiguration、ExecutionContext、GraphNodeHook源码解析以及GraphComponent源码回顾及其应用源码。

第二卷主要介绍了基于Rasa Interactive Learning和ElasticSearch的实战案例，以及通过Rasa Interactive Learning发现和解决对话机器人的Bugs案例实战。介绍了使用Rasa Interactive Learning来调试nlu和prediction的案例实战，使用Rasa Interactive Learning来发现和解决对话机器人的Bugs案例实战介绍了使用Rasa Interactive Learning透视Rasa Form的NLU和Policies的内部工作机制案例实战，使用ElasticSearch来实现对话机器人的知识库功能，并介绍了相关的源码剖析和最佳实践，介绍了Rasa微服务和ElasticSearch整合中的代码架构分析，使用Rasa Interactive Learning对ConcertBot进行源码、流程及对话过程的内幕解密，介绍了使用Rasa来实现Helpdesk Assistant功能，并介绍了如何使用Debug模式进行Bug调试，使用Rasa Interactive Learning纠正Helpdesk Assistant中的NLU和Prediction错误，逐行解密Domain和Action微服务的源码。

本书适合对Rasa有一定了解的开发人员和研究人员，希望通过本书深入了解Rasa对话机器人的内部工作原理及其源代码实现方式。无论您是想要深入了解Rasa的工作原理还是想要扩展和定制Rasa，本书都将为您提供有价值的参考和指导。

《企业级Transformer&ChatGPT解密：原理、源码及案例》、《企业级Transformer&Rasa解密：原理、源码及案例》，是您深入学习的好选择，年底即将重磅出版，欢迎购买！