首页 > 其他分享 >在NextChat中接入SiliconCloud API 体验不同的开源先进大语言模型

在NextChat中接入SiliconCloud API 体验不同的开源先进大语言模型

时间:2024-08-26 10:48:44浏览次数:11  
标签:接入 模型 开源 API SiliconCloud NextChat

NextChat介绍

One-Click to get a well-designed cross-platform ChatGPT web UI, with GPT3, GPT4 & Gemini Pro support.

一键免费部署你的跨平台私人 ChatGPT 应用, 支持 GPT3, GPT4 & Gemini Pro 模型。

主要功能

  • 在 1 分钟内使用 Vercel 免费一键部署
  • 提供体积极小(~5MB)的跨平台客户端(Linux/Windows/MacOS), 下载地址
  • 完整的 Markdown 支持:LaTex 公式、Mermaid 流程图、代码高亮等等
  • 精心设计的 UI,响应式设计,支持深色模式,支持 PWA
  • 极快的首屏加载速度(~100kb),支持流式响应
  • 隐私安全,所有数据保存在用户浏览器本地
  • 预制角色功能(面具),方便地创建、分享和调试你的个性化对话
  • 海量的内置 prompt 列表,来自中文英文
  • 自动压缩上下文聊天记录,在节省 Token 的同时支持超长对话
  • 多国语言支持:English, 简体中文, 繁体中文, 日本語, Español, Italiano, Türkçe, Deutsch, Tiếng Việt, Русский, Čeština, 한국어, Indonesia
  • 拥有自己的域名?好上加好,绑定后即可在任何地方无障碍快速访问

image-20240826092034449

GitHub地址:https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web

SiliconCloud介绍

SiliconCloud 基于优秀的开源基础模型,提供高性价比的 GenAI 服务。

不同于多数大模型云服务平台只提供自家大模型 API,SiliconCloud上架了包括 Qwen、DeepSeek、GLM、Yi、Mistral、LLaMA 3、SDXL、InstantID 在内的多种开源大语言模型及图片生成模型,用户可自由切换适合不同应用场景的模型。

更重要的是,SiliconCloud 提供开箱即用的大模型推理加速服务,为您的 GenAI 应用带来更高效的用户体验。

对开发者来说,通过 SiliconCloud 即可一键接入顶级开源大模型。拥有更好应用开发速度和体验的同时,显著降低应用开发的试错成本。

image-20240822095915114

官网地址:https://siliconflow.cn/zh-cn/siliconcloud

在NextChat中接入SiliconCloud API

点击Releases:

image-20240826092224306

选择对应操作系统的安装包:

image-20240826092417980

安装完成,打开界面如下所示:

image-20240826092515357

点击设置,进行如下设置:

image-20240826092603207

由于SiliconCloud提供的API服务已经兼容了OpenAI的格式,因此模型服务商可以不改,就把接口地址改成https://api.siliconflow.cn,填入API Key,填入模型名称即可。

模型名称可在SiliconCloud的文档中查看怎么写:

image-20240816112338058

地址:https://docs.siliconflow.cn/reference/chat-completions-3

进行对话测试是否配置成功:

image-20240826093418970

配置已经成功。

SiliconCloud的好处就是提供了不同的先进开源大语言模型,针对一个特定的任务,或许收费低的模型与收费高的模型都能很好的完成,这时候换成收费低的模型,这样就可以节省成本了。

接入SiliconCloud的API可以轻松地体验不同的先进开源大语言模型。

比如我想使用meta-llama/Meta-Llama-3.1-405B-Instruct这个先进的开源模型,我只需更改一下模型名:

image-20240826094912309

体验meta-llama/Meta-Llama-3.1-405B-Instruct的回答效果:

image-20240826095232351

通过以上简单的几个步骤,就实现在NextChat中接入SiliconCloud API了,接入之后,就可以开始体验不同的开源先进大语言模型的回答效果了。

标签:接入,模型,开源,API,SiliconCloud,NextChat
From: https://www.cnblogs.com/mingupupu/p/18380559

相关文章

  • fastapi 跨域请求
    问题描述在前后端开发中遇到一个问题,前端发送请求后,后端报'OPTIONS/mock/user/loginHTTP/1.1'405MethodNotAllowed,如下图:但用fastapi自带的swagger或postman测试又是可以的。 定位原因这是因为在跨域的情况下,在浏览器发起"复杂请求"时主动发起的。跨域共享标准规范......
  • Web API 学习笔记 第四弹
    1.时间戳获取时间戳的方法①date.getTime()②+newDate()2.定时器console.log(111)setTimeout(()=>{console.log(222)},1000)console.log(333)console.log(111)setTimeout(()=>{console.log(222)},0)console.log(333)这两段代码打印结果分......
  • 使用钉钉Stream模式和API实现简单的考勤效果
    前期准备创建企业/组织。通讯录->右上角人型标志->创建或加入企业/团队。教程组织绑定考勤机。录入人脸信息。通讯录->更多->智能办公硬件->智能前台->选择对应的考勤机。为应用接入Stream模式重点:官方文档创建企业内部应用。进入钉钉开放平台->主管理员登录->右上角我的......
  • Java核心API——io类
     程序的输入与输出我们先来认识一下什么时在程序中输入与输出输入是从外界到程序中的方向,是我们程序用于获取外界信息的过程,是"读"的过程 输出是从程序到外界的方法,是我们程序向外界发送信息的过程,是"写"的过程java.io.InputStream与OutputStream输入流与输出流这......
  • Shopee虾皮api python获取商品买家评论数据信息
    此api接口可用于获取虾皮平台商品买家评论信息,目前land参数支持id、vn、my、th、sg、ph、tw(印尼、越南、马来、泰国、新加坡、菲律宾、台湾)。若有需要,请点击文末链接联系我们。详细采集页面如下https://shopee.tw/%E9%99%8D%E5%83%B9%E5%85%8D%E9%81%8B%E4%B8%AD%F0%9F%94%A5......
  • Shopee虾皮api python获取虾皮购物平台的商品数据信息 数据采集
    虾皮购物(英语:Shopee)是一个电商平台,总公司设在新加坡,归属于SeaGroup(之前称之为Garena),该企业于2009年由李小冬(ForrestLi)创办。虾皮购物于2015年初次在新加坡推出,现阶段已拓展到马来西亚、泰国、印度尼西亚、越南和菲律宾。虾皮购物为全球华人地区的客户提供线上购物和销售......
  • 【API渗透】资料集合
    今天给大家分享一些非常优质的API渗透测试学习资源。主要包含以下内容:API概述及其分类API渗透测试优质文章API渗透资料聚合项目国外免费的API安全课程API渗透检查列表ChecklistAPI测试字典开源API安全靶场常用API渗透测......
  • Ruby Web服务开发:构建高效RESTful API的秘诀
    标题:RubyWeb服务开发:构建高效RESTfulAPI的秘诀Ruby作为一种灵活、高效的编程语言,通过其丰富的库和框架,为开发Web服务提供了强大的支持。本文将深入探讨如何在Ruby中开发Web服务,特别是RESTfulAPI。我们将从基础概念讲起,逐步深入到框架选择、路由配置、控制器编写、模型设......
  • API 的多版本管理,如何在 Apifox 中操作?
    开放API是技术团队向外部提供服务和数据的关键手段。随着业务的发展和技术的更新,API也需要不断进行版本迭代。这种迭代通常是为了满足市场需求,优化现有功能,增加新特性,或者修复漏洞。在多个版本共存的情况下,团队需要确保每个版本都能满足不同用户的需求。例如,某些用户可能......
  • 利用Spring Boot实现微服务的API网关统一限流与熔断
    利用SpringBoot实现微服务的API网关统一限流与熔断大家好,我是微赚淘客返利系统3.0的小编,是个冬天不穿秋裤,天冷也要风度的程序猿!微服务中的限流与熔断在微服务架构中,服务的稳定性和可靠性至关重要。限流用于控制服务的访问频率,防止过载;熔断则在服务出现异常时介入,防止故障蔓延......