首页 > 其他分享 >手把手教你用聆思CSK6大模型开发板接入Kimi

手把手教你用聆思CSK6大模型开发板接入Kimi

时间:2024-09-04 11:53:43浏览次数:14  
标签:教你用 聆思 开发板 Kimi 应用 模型 云端


前言

多模态交互离不开硬件载体,近期有不少开发者在研究大模型开发板除了使用出厂示例自带的星火大模型,能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型,这个是必须支持的。但由于各家接口和数据格式不一样,有些朋友直接参考chatgpt的方式没有走通,因此本篇以聆思CSK6大模型开发板接入Kimi为例,分享具体的接入步骤,大家按照文档步骤操作即可。

手把手教你用聆思CSK6大模型开发板接入Kimi_开发板


由上图可见,当前SDK方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。

实操演示

链路说明

手把手教你用聆思CSK6大模型开发板接入Kimi_串口_02


示例中包含3条链路,分别为

  • 链路1: 可通过注入节点调用Kimi节点,并将结果输出到output1。
  • 链路2: 可通过web对话页调用Kimi节点,最终将大模型结果输出到对话页面上。
  • 链路3:可通过注入节点调用kimi节点,并将结果输出到output2,验证开发板是否能够对语音交互内容进行文字返回。
  • 链路4: 可通过开发板调用Kimi节点,最终将大模型输出的结果进行语音合成实现端侧播报。


云端服务接入Kimi

1、创建应用

登录LSplatform,创建新应用

手把手教你用聆思CSK6大模型开发板接入Kimi_链路_03

创建成功后在弹出的界面进入应用编排服务。

手把手教你用聆思CSK6大模型开发板接入Kimi_串口_04


2、导入工程

  1. 下载工程示例:https://docs2.listenai.com/z/208.json
  2. 导入工程示例:选择kimi示例v2.json文件导入

若提示“您要导入的某些节点已经存在于工作空间中。”,则选择“导入副本”即可。

3、配置参数


参数说明:

  • HOST:api.moonshot.cn
  • API-KEY:Kimi的API-KEY获取到moonshot ai官网自行获取
  • Model:这里提供moonshot-v1-8k/moonshot-v1-16k可选择,若要更换其他模型,可自行添加。
  • Stream:是否流式返回


注意:kimi对免费账户的调用是有速率限制的,根据目前官方提供的信息一分钟内请求限制为3次。

手把手教你用聆思CSK6大模型开发板接入Kimi_开发板_05


4、部署验证

在完成参数配置,进入完整体验之前,我们可以简单测试验证,验证是否成功调用Kimi。

  • 部署成功后关闭当前编排服务

手把手教你用聆思CSK6大模型开发板接入Kimi_链路_06


  • 重启应用


手把手教你用聆思CSK6大模型开发板接入Kimi_开发板_07


  • 测试接口

重启应用后,再次点开【编排应用】,点击注入,会触发一次Kimi子流程调用,标记2的红框中输出类似日志即代表成功建立链接。

手把手教你用聆思CSK6大模型开发板接入Kimi_串口_08



  • 打开web验证页面

回到【我的应用】,双击聆思CSK6_Kimi应用,在弹出的应用详情页面点击右上角分享按钮打开web验证配置,该配置页包含测试地址和访问密码。

手把手教你用聆思CSK6大模型开发板接入Kimi_链路_09


  • 访问web验证页面链接,在打开的web页即可与Kimi对话

手把手教你用聆思CSK6大模型开发板接入Kimi_串口_10



大模型开发板接入Kimi

云端接入Kimi成功后,要想在聆思CSK6大模型开发板上进行语音交互,需要把对接了Kimi的云端服务跟指定开发板绑定。

1、创建产品

在产品管理模块点击新建产品按钮,并按要求填写你的产品名称。

手把手教你用聆思CSK6大模型开发板接入Kimi_开发板_11


2、云端应用和云端产品信息绑定

配置你需要调用的大模型应用,完成配置后,用户即可体验Kimi与开发板交互。在此我们仅需在配置应用勾对文章第一步创建的应用即可。

手把手教你用聆思CSK6大模型开发板接入Kimi_链路_12


3、云端应用设备列表加入硬件设备ID

读取设备id

设备ID是一个产品下的唯一设备标识,我们需要获取当前设备ID方便后续在云端配置,才能让设备鉴权通过实现端云交互。

读取方式:

cskburn desktop是一款聆思推出的桌面烧录工具,下载地址(https://docs2.listenai.com/x/oo2_KzYFd)打开软件后

1.点击串口下拉框,选择连接开发套件后识别到的串口编号;

2.点击获取信息

3.得到设备ID

手把手教你用聆思CSK6大模型开发板接入Kimi_开发板_13


加入设备列表

聆思平台只会对列表中的设备鉴权提供交互服务,因此需要将前面读取到的设备ID在设备管理页面进行导入才能实现设备正常交互。

手把手教你用聆思CSK6大模型开发板接入Kimi_开发板_14



4、CSK6开发板设备端写入云端产品服务配置

云端配置设备id后,还需将产品ID写入开发板固件中,才能让设备在运行时找到正确的云端产品服务完进行鉴权,鉴权完成就可以进行大模型语音交互了。

写入方式:

使用数据线连接开发板 DAP_USB 接口后,打开聆思在线串口终端,选择对应的串口设 备进行连接,波特率默认115200,完成配置后点击连接按钮。

手把手教你用聆思CSK6大模型开发板接入Kimi_链路_15


通过aiui set product_id 和aiui set secret_id指令可以分别配置开发板接入的大模型应用

aiui set product_id 71cd1721-xxx-xxx-xxx-1000055c8b2f

aiui set secret_id cb09013f-xxx-xxx-xxx-e212b32f9218

product_id和product_secret 可在对应产品的产品信息中获取,请将指令中的参数替换为产品信息中的

手把手教你用聆思CSK6大模型开发板接入Kimi_串口_16



手把手教你用聆思CSK6大模型开发板接入Kimi_链路_17


  • 语音交互

用小美小美唤醒,并提问你是谁,语音回复它是人工智能助手即可验证成功。至此,可以确认Kimi接入成功。

本文使用的聆思CSK6大模型开发板的详细信息可参考线上文档。https://docs2.listenai.com/x/nTn9kMMCU


标签:教你用,聆思,开发板,Kimi,应用,模型,云端
From: https://blog.51cto.com/u_15947017/11917172

相关文章

  • 如何使用四博智联ESP32-C6开发板的Zigbee功能,将其作为MQTT+Zigbee网关来控制Zigbee多
    参考了乔帮主的:ESP32-C6开发板Zigbee功能抢先体验(MQTT+Zigbee网关+灯)DF创客社区关于ZigBee的原理和知识,这里就不重复了,网上的资料非常的丰富。乐鑫为Zigbee功能,提供了专门的SDK支持:GitHub-espressif/esp-zigbee-sdk:EspressifZigbeeSDK在ESP-IDF中,也专门提供了实例......
  • 【北京迅为】《stm32mp157开发板嵌入式linux开发指南》第五章 Ubuntu使用apt-get下载
         iTOP-STM32MP157开发板是基于意法半导体STARM双Cortex-A7核加单Cortex-M4核的一款多核异构处理器。Cortex-A7内核提供对开源操作系统Linux的支持,借助Linux系统庞大而丰富的软件组件处理复杂应用。M4内核上运行对于实时性要求严格的应用。         开......
  • 喂饭教程“15行代码”教你用matlab画玫瑰花表白成功!
    本代码十分适合编程小白,大家直接复制黏贴就可以向大家喜欢的人表个白吧!代码:n=800;p=pi;[R,T]=ndgrid(linspace(0,1,n),linspace(-2,20*p,n));x=1-(.5)*((5/4)*(1-mod(3.6*T,2*p)/p).^2-.25).^2;U=2*exp(-T/(8*p));L=sin(U);J=cos(U);y=1.99*(R.^2).*(1.2*R-1).^2.*L;......
  • 视频号的视频怎么下载?教你用油猴(Tampermonkey)插件来下载视频
     这个视频号的下载方法支持手机和电脑,请看教程一、环境准备  微信文件传输助手网页版 :微信文件传输助手网页版1.edge(电脑端)下载TampermonkeyTampermonkey-MicrosoftEdgeAddons安装后右上角扩展会有一个黑色的图标​​​2.手机端安装浏览器苹果端:亚瑟浏览器......
  • 正点原子FPGA新品ZYNQ7035/7045/7100开发板,ZYNQ 7000系列、双核ARM、PCIe2.0、SFPX2!
    正点原子FPGA新品ZYNQ7035/7045/7100开发板,ZYNQ7000系列、双核ARM、PCIe2.0、SFPX2!正点原子Z100ZYNQ开发板,搭载XilinxZynq7000系列芯片,核心板支持XilinxZynq-7035、Zynq-7045和Zynq-7100三种型号。开发板由核心板+底板组成,外设资源丰富,板载2路千兆以太网接口(PS+PL)、PCIe2.0x8、......
  • 【新品8折】正点原子ZYNQ7035/7045/7100开发板发布、ZYNQ 7000系列、双核ARM、PCIe2.0
    【新品发布】正点原子FPGA新品ZYNQ7035/7045/7100开发板,ZYNQ7000系列、双核ARM、PCIe2.0、SFPX2!正点原子Z100ZYNQ开发板,搭载XilinxZynq7000系列芯片,核心板支持XilinxZynq-7035、Zynq-7045和Zynq-7100三种型号。开发板由核心板+底板组成,外设资源丰富,板载2路千兆以太网接口(PS+P......
  • 迅为电子RK3588S开发板第三章Buildroot系统功能测试
      iTOP-3588S开发板采用瑞芯微RK3588S处理器,是全新一代AloT高端应用芯片,采用8nmLP制程,搭载八核64位CPU(四核Cortex-A76+四核Cortex-A55架构),集成MaliG610MP4四核GPU,内置AI加速器NPU,算力达6Tops,支持8K视频硬件编码器和硬件解码器,提供了许多功能强大的嵌入式硬件引擎,性能更强......
  • 正点原子ALPHA开发板使用4.3寸触摸屏LCD驱动实验显示不正常
    显示问题裸机开发时,驱动教程的PDF里给了4.3寸LCD屏幕的设置参数。如下图所示:但是按照这个设置,编写设备树dts文件,下载到开发板里,却出现了显示异常,具体来说就是帧率不对,图和字都是歪斜的,像果冻一样左右摇晃。但是,通过实验发现,在dts文件里将屏幕频率超频设置(大于上图的31MHz,我按照......
  • 正点原子Linux Framebuffer编程:解决示例程序在开发板上LCD显示错位和颜色异常
    正点原子LinuxFramebuffer编程:解决示例程序在开发板上运行7寸LCD显示错位和颜色异常作者在学习【正点原子】I.MX6U嵌入式LinuxC应用编程指南V1.4时,发现其配套的程序在开发板上运行不正常。使用的硬件版本:正点原子I.MX6UALPHAV2.4版本底板,LCD:正点原子7寸1024*600,型号ATK-MD0......
  • 全志D1-H哪吒开发板开发环境搭建
    全志D1-H哪吒开发板开发环境搭建原文https://blog.csdn.net/tcjy1000/article/details/125344215一、更新日志由于科研项目需要使用全志的D1-H哪吒开发板,而官方文档写得已经非常不错,但在实际搭建开发环境过程中仍然会遇到一些小问题,为此写下本篇环境搭建说明文档。(后续可能......