9月19日,通义千问宣布新一代模型Qwen2.5系列开源。无问芯穹Infini-AI异构云平台GenStudio目前已上架Qwen2.5-7B/14B/32B/72B,您可轻松调用模型API。快来GenStudio,加入这场Qwen2.5基础模型大派对!
GenStudio 模型体验地址:
cloud.infini-ai.com/genstudio/model
此次Qwen2.5开源了7个尺寸,各个型号设定考虑了下游场景的不同需求。尽管7B的非嵌入参数少,但在多个基准测试中都超越了它的前代和同类竞争者;14B、32B则被我们社区中的开发者认为性价比较高,可在性能和功耗之间获得较好的平衡;72B是Qwen2.5系列的旗舰模型,可以用于工业级以及科研级等复杂场景。我们认为这些型号具备较大的未来应用潜力,现将模型上架提供给开发者们使用。
在GenStudio上体验Qwen2.5-72B
用GenStudio打造个人AI助理(Qwen2.5版)
GenStudio还支持多种大模型趣味DIY玩法。下面以一款免费的桌面端AI助手“Chatbox AI”为例,来看看个人用户如何利用GenStudio上的模型API调用功能,用Qwen2.5打造个人AI助理。
首先,登陆无问芯穹Infini-AI异构云平台https://cloud.infini-ai.com/,注册成为GenStudio用户,轻松获取目标模型API密钥。
接着,您可以访问第三方工具例如Chatbox AI (https://chatboxai.app/) 下载并安装客户端,它支持Windows、Mac(Intel或Apple Silicon)、Linux、安卓和iOS全平台,您可以根据自身的硬件型号选择适合的版本。
现在,我们可以着手配置个人AI助理了!这里我们以配置Qwen2.5 模型为例展示操作过程。点击“设置”,在模型提供方选择“添加自定义提供方”,并按照下面的内容填写表单。
• API模式:OpenAI API兼容
• 名称:infini-qwen2.5 (此处仅做示意,名称可自定义)
• API域名:https://cloud.infini-ai.com/maas
• API路径:/qwen2.5-72b-instruct/nvidia/chat/completions
• API密钥:使用从 Infini-AI异构云平台GenStudio 中复制的密钥
• 模型:qwen2.5-72b-instruct
保存之后,点击左侧“新对话”,就可以开始使用啦,快来体验试试
标签:GenStudio,AI,Qwen2.5,模型,API,infini From: https://blog.csdn.net/2401_87329534/article/details/142523515