首页 > 其他分享 >手把手教你用聆思CSK6开发板接入ChatGPT

手把手教你用聆思CSK6开发板接入ChatGPT

时间:2024-07-20 18:53:56浏览次数:15  
标签:教你用 聆思 开发板 应用 ChatGpt 模型 云端

前言

多模态交互离不开硬件载体,近期有不少开发者在研究聆思CSK6大模型开发板除了使用出厂示例自带的星火大模型,能不能接入ChatGPT、文心一言、通义千问、豆包、智谱glm、kimi等大模型,这个是必须支持的。但由于各家接口和数据格式不一样,有些朋友直接参考星火大模型接入的方式没有走通,因此本篇以聆思CSK6大模型开发板接入ChatGPT为例,分享具体的接入步骤,大家按照文档步骤操作即可。

由上图可见,当前SDK方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。

实物演示

<iframe allowfullscreen="true" data-mediaembed="csdn" frameborder="0" id="li5MC2rl-1721380105494" src="https://live.csdn.net/v/embed/410850"></iframe>

ChatGpt

链路说明

  • 链路1: 可通过inject节点调用ChatGPT节点,并将结果输出到output1。
  • 链路2: 可通过web对话页调用ChatGPT节点,最终将大模型结果输出到对话页面上。
  • 链路3: 可通过开发板调用ChatGPT节点,最终将大模型输出的结果进行语音合成实现端侧播报。

云端服务接入ChatGpt

(1)建应用

登陆LSPlatform,创建新应用。创建成功后在弹出的界面进入应用编排服务。

(2)导入示例

  • 下载工程示例:ChatGpt.json
  • 导入工程示例:将ChatGpt.json文件进行导入

若提示“您要导入的某些节点已经存在于工作空间中。”,则选择“导入副本”即可。

(3)配置参数

配置参数说明:

  • API-KEY:调用openai的APIKEY
  • Host:国内通常无法直接openai的接口,可通过代理服务的HOST访问openai的接口
  • Model:提供GPT3.5/GPT4.0可选择,可自行添加更多模型选项。
  • Stream:是否流式返回

chatGPT子流程节点默认封装了访问openai的/v1/chat/completions接口,若需要调用openai其他接口则需要修改子流程节点代码。

(4)部署验证

在完成参数配置,进入完整体验之前,我们可以简单测试验证,验证是否成功调用ChatGpt。

  • 部署应用成功后关闭当前编排服务

  • 重启应用

  • 测试接口

重启应用后,再次点开【编排应用】,点击注入,会触发一次ChatGpt子流程调用,标记2的红框中输出类似日志即代表成功建立链接。

  • 打开web验证页面

回到【我的应用】,双击ChatGpt应用,在弹出的应用详情页面点击右上角分享按钮打开web验证配置,该配置页包含测试地址和访问密码。

  • 访问web验证页面链接,在打开的web页即可与ChatGpt对话

大模型开发板接入ChatGpt

云端接入ChatGpt成功后,要想在聆思CSK6大模型开发板上进行语音交互,需要把对接了ChatGpt的云端服务跟指定开发板绑定。

1、创建产品

在产品管理模块点击新建产品按钮,并按要求填写你的产品名称。

2、云端应用和云端产品信息绑定

配置你需要调用的大模型应用,完成配置后,用户即可体验ChatGpt与开发板交互。在此我们仅需在配置应用勾对文章第一步创建的应用即可。

3、云端应用设备列表加入硬件设备ID

读取设备id

设备ID是一个产品下的唯一设备标识,我们需要获取当前设备ID方便后续在云端配置,才能让设备鉴权通过实现端云交互。

读取方式:

cskburn desktop是一款聆思推出的桌面烧录工具,下载地址(cskburn桌面烧录工具 | 聆思文档中心)打开软件后

1.点击串口下拉框,选择连接开发套件后识别到的串口编号;

2.点击获取信息

3.得到设备ID

加入设备列表

聆思平台只会对列表中的设备鉴权提供交互服务,因此需要将前面读取到的设备ID在设备管理页面进行导入才能实现设备正常交互。

4、CSK6开发板设备端写入云端产品服务配置

完成云端配置后,仅需将产品ID写入设备,才能让设备找到对应的产品完成鉴权服务。

写入方式:

使用数据线连接开发板 DAP_USB 接口后,打开聆思在线串口终端,选择对应的串口设 备进行连接,波特率默认115200,完成配置后点击连接按钮。

通过 aiui set product_id 和aiui set secret_id指令可以分别配置开发板接入的大模型应用 product ID 及其密钥,示例如下:

aiui set product_id 71cd1721-xxx-xxx-xxx-1000055c8b2f

aiui set secret_id cb09013f-xxx-xxx-xxx-e212b32f9218

product_id和 product_secret 可在对应产品的产品信息中获取,请将指令中的参数替换为产品信息中的 id 与 secret 信息。

  • 语音交互

用小美小美唤醒,并提问你是谁,语音回复它是人工智能助手并且询问问题时,它给予回复即可验证成功。至此,可以确认ChatGpt接入成功。本文使用的聆思CSK6大模型开发板的详细信息可参考线上文档。套件简介 | 聆思文档中心

--------------------------------------------------------------------------------------------------

简介:

本贴介绍了如何使用聆思CSK6大模型开发板接入ChatPT做一个可以语音交互的AI助手。

当前方案是把开发套件当做输入端,交互内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。

首先,需要在LSplatform上创建新应用并导入ChatGPT示例工程。(工程文件可以从附件文档中获得)

然后配置HOST、API、Model和Stream等参数,部署验证成功后,将云端服务与产品配置绑定。

在云测试页面交互返回如上图信息,就可以在CSK6开发板设备端写入云端产品服务配置,无需修改固件即可实现语音交互。

标签:教你用,聆思,开发板,应用,ChatGpt,模型,云端
From: https://blog.csdn.net/weixin_61594011/article/details/140554542

相关文章

  • A2B汽车音频总线:Master板作为独立的DSP开发板做开发(四)ADAU1452的音量调节1
    作者的话OP的这套AD2428的原厂A2B开发系统参考设计,已经写了几十篇文章了,最近有兄弟问OP,Master板既然用的是ADAU的DSP,板子上有一颗ADAU1452和一颗ADAU1761,能不能把他单独当做一个DSP评估板来用?所谓一板两吃?甚至一板三吃?既能评估A2B系统,又可以当ADAU1452和ADAU1761的开发板......
  • 最新扣子(Coze)实战案例:教你用图像流做证件照,完全免费教程
    ......
  • 19集 两款ESP32开发板如何选择?-《MCU嵌入式AI开发笔记》
    19集两款ESP32开发板我们用哪款?-《MCU嵌入式AI开发笔记》有两款ESP32的开发板分别是ESP32S3和C3的,我们该如何选择?1、ESP32-S3-BOX-3在乐鑫官网上,https://www.espressif.com.cn/zh-hans/products/devkits有ESP32S3BOX开发板,链接如下:https://github.com/espressif/es......
  • 基于TI Sitara系列AM5728工业开发板——FPGA视频开发案例分享
    前言 本文主要介绍FPGA视频开发案例的使用说明,适用开发环境:Windows7/1064bit、XilinxVivado2017.4、XilinxSDK2017.4。评估板简介创龙科技TL5728F-EVM是一款基于TISitara系列AM5728(双核ARMCortex-A15+浮点双核DSPC66x)+XilinxArtix-7FPGA处理器设计的高端异......
  • 基于AM5708开发板——开箱初探+环境搭建、源码编译
    本次测评板卡是创龙科技旗下的TL570x-EVM,它是一款基于TISitara系列AM5708ARMCortex-A15+浮点DSPC66x处理器设计的异构多核SOC评估板,由核心板和评估底板组成。核心板经过专业的PCBLayout和高低温测试验证,稳定可靠,可满足各种工业应用环境。评估板接口资源丰富,引出双路PRU百兆......
  • 开发板测试手册——系统启动、文件传送操作步骤详解(1)
    前言本文适用开发环境:Windows开发环境:Windows764bit、Windows1064bitLinux开发环境:Ubuntu14.04.364bit虚拟机:VMware15.1.0U-Boot:U-Boot-2017.01Kernel:Linux-4.9.0、Linux-RT-4.9.0进行本文档操作前,请先按照调试工具安装、Linux开发环境搭建相关文档,安装......
  • 开发板测试手册——SPI FLASH 读写、USB WIFI 模块(2)
    前言本文适用开发环境:Windows开发环境:Windows764bit、Windows1064bitLinux开发环境:Ubuntu14.04.364bit虚拟机:VMware15.1.0U-Boot:U-Boot-2017.01Kernel:Linux-4.9.0、Linux-RT-4.9.0进行本文档操作前,请先按照调试工具安装、Linux开发环境搭建相关文档,安装......
  • 开发板测试手册——USB 4G 模块、GPS 定位功能操作步骤详解(3)
    前言本文适用开发环境:Windows开发环境:Windows764bit、Windows1064bitLinux开发环境:Ubuntu14.04.364bit虚拟机:VMware15.1.0U-Boot:U-Boot-2017.01Kernel:Linux-4.9.0、Linux-RT-4.9.0进行本文档操作前,请先按照调试工具安装、Linux开发环境搭建相关文档,安装......
  • 【资料分享】全志科技T507-H开发板规格书
    1评估板简介 创龙科技TLT507-EVM是一款基于全志科技T507-H处理器设计的4核ARMCortex-A53国产工业评估板,主频高达1.416GHz,由核心板和评估底板组成。核心板CPU、ROM、RAM、电源、晶振等所有器件均采用国产工业级方案,国产化率100%。同时,评估底板大部分元器件亦采用国产工业级......
  • 【正点原子i.MX93开发板试用连载体验】简单的音频分类
    本文最早发表于电子发烧友论坛:今天测试的内容是进行简单的音频分类。我们要想进行语音控制,就需要构建和训练一个基本的自动语音识别(ASR)模型来识别不同的单词。如果想了解这方面的知识可以参考TensorFlow的官方文档:简单的音频识别:识别关键词  |  TensorFlowCore。 ......