首页 > 其他分享 >通过微软Azure调用GPT的接口API-兼容平替OpenAI官方的注意事项

通过微软Azure调用GPT的接口API-兼容平替OpenAI官方的注意事项

时间:2023-08-16 22:33:17浏览次数:49  
标签:平替 微软 api 接口 Azure AI API OpenAI GPT

众所周知,我们是访问不通OpenAI官方服务的,但是我们可以自己通过代理或者使用第三方代理访问接口

现在新出台的规定禁止使用境外的AI大模型接口对境内客户使用,所以我们需要使用国内的大模型接口

国内的效果真的很差,现在如果想使用GPT大模型,可以使用微软Azure的OpenAI服务。

 

负责任的AI

在微软,我们致力于以人为本的原则推动AI的进步。生成模型(如Azure OpenAI中可用的模型)具有显著的潜在优势,但如果没有仔细的设计和深思熟虑的缓解措施,这样的模型有可能生成不正确甚至有害的内容。微软已经进行了大量投资,以帮助防止滥用和意外伤害,其中包括要求申请人展示定义明确的用例,纳入微软负责任的AI使用原则,构建内容过滤器以支持客户,并为客户提供负责任的AI实施指导。

微软在中国是有合规企业的,并且数据内容经过了过滤,我们可以考虑平替OpenAI官网服务

 

Azure GPT接口规范

我们可以参考下面这个REST接口的调用参数

在Azure上创建服务成功以后,会得到两个参数 ENDPOINT 和 API-KEY

聊天补全接口

curl $AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15 \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_KEY" \
  -d '{"messages":[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Does Azure OpenAI support customer managed keys?"},{"role": "assistant", "content": "Yes, customer managed keys are supported by Azure OpenAI."},{"role": "user", "content": "Do other Azure Cognitive Services support this too?"}]}'

 

向量转换接口

curl https://YOUR_RESOURCE_NAME.openai.azure.com/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15 \
  -H "Content-Type: application/json" \
  -H "api-key: YOUR_API_KEY" \
  -d "{\"input\": \"The food was delicious and the waiter...\"}"

 

 

与OpenAI官方的区别

接口地址不一样,header参数里传递key的形式也不一样。

除了这俩点,还有一个很重要的事情。

重点注意

大家仔细看看上面接口地址的url部分,加粗的部分

$AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15

$AZURE_OPENAI_ENDPOINT/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15

我们需要把大模型部署一下,上面标红的地方,就是部署名称,所以如果我们想无缝切换OpenAI与微软Azure OpenAI

我们需要固定好,部署的名称与模型的名称保持一致,这样才能正常调用

客服系统配置

我们系统已经兼容了微软azure接口:gofly.v1kf.com

前往【菜单】【机器人设置】【向量知识库AI配置】接口地址填入$AZURE_OPENAI_ENDPOINT,接口密钥填写key

标签:平替,微软,api,接口,Azure,AI,API,OpenAI,GPT
From: https://www.cnblogs.com/taoshihan/p/17636397.html

相关文章

  • DoctorGPT
    DoctorGPT使用LLaMA2作为基座模型,在医疗对话数据上进行了SFT微调,然后通过强化学习(ReinforcementLearning)进一步提升了模型效果。DoctorGPTgithub代码仓库:https://github.com/SpeechOceanTech/DoctorGPTDoctorGPThuggingface模型仓库:https://huggingface.co/llSourcellMac上......
  • 【转载】c++调用win32API控制打印机打印
    原文:https://blog.csdn.net/cheng448208985/article/details/55510687win32实现将原始数据发送给打印机1、调用OpenPrinter()打开打印机,获取打印机句柄。2、初始化DOCINFO打印机结构体。3、调用StartDocPrinter()表明应用程序准备发送文档数据给打印机。4、调用StartPagePrin......
  • 利用GPT打造你的博客|论文的专属讲解员
    文章目录1前言2搭建我的博客问答系统2.1平台介绍(不需要魔法即可访问)2.2前期准备2.3上传博客作为数据集至Dify2.4搭建你的博客回答专员3利用有针对性的GPT帮助我们阅读前沿论文4结语个人博客专属问答员:demo1前言GPT是生成式预训练Transformer的缩写。它是由OpenAI开发的......
  • 【HarmonyOS】API9沉浸式状态栏
    对于沉浸式状态栏,在之前API8FA模型开发中可以通过在config.json配置主题的方式实现应用的沉浸式体验,在最新的API9Stage模型中系统提供了沉浸式窗口的示例(管理应用窗口(Stage模型)-窗口管理-开发-HarmonyOS应用开发)。通过调用setWindowSystemBarEnable接口,设置导航栏、状态栏不显示,......
  • chatgpt写作机器人项目开发
      最近的新项目ChatGPT问答机器人已经成为了一个备受关注的项目,该项目旨在开发一款能够自动生成文字的人工智能工具,能够帮助用户快速地完成各种写作任务。  ChatGPT写作软件的核心技术是自然语言处理技术和深度学习算法。通过使用这些技术,机器人能够理解用户输入的语句,并......
  • 人工智能chatgpt会员版软件
      ChatGPT问答机器人软件的优势:让你的聊天机器人更智能、更个性化  ChatGPT问答机器人是一款备受瞩目的人工智能聊天机器人,它的强大之处在于它能够根据用户不同的需求,提供个性化的智能回答。而现在,ChatGPT推出了会员版,让用户可以享受到更加智能和个性化的服务。  付......
  • springmvc 开启异步请求报错 Java code using the Servlet API or by adding "true"
    报错内容:java.lang.IllegalStateException:Asyncsupportmustbeenabledonaservletandforallfiltersinvolvedinasyncrequestprocessing.ThisisdoneinJavacodeusingtheServletAPIorbyadding"true"toservletandfilterdeclarationsin......
  • 如何用Apipost实现sign签名?
    我们平常对外的接口都会用到sign签名,对不同的用户提供不同的apikey,这样可以提高接口请求的安全性,避免被人抓包后乱请求。如何用Apipost实现sign签名?可以在Apipost中通过预执行脚本调用内置的JS库去实现预执行脚本是在发送请求之前自动执行的JavaScript代码sign签名生成分为如下几......
  • 如何用Apipost实现sign签名?
    我们平常对外的接口都会用到sign签名,对不同的用户提供不同的apikey,这样可以提高接口请求的安全性,避免被人抓包后乱请求。如何用Apipost实现sign签名?可以在Apipost中通过预执行脚本调用内置的JS库去实现预执行脚本是在发送请求之前自动执行的JavaScript代码sign签名生成分为如......
  • 用 GPT-4 给开源项目 GoPool 重构测试代码 - 每天5分钟玩转 GPT 编程系列(8)
    目录1.好险,差点被喷2.重构测试代码2.1引入Ginkgo测试框架2.2尝试改造旧的测试用例2.3重构功能测试代码3.总结1.好险,差点被喷早几天发了一篇文章:《仅三天,我用GPT-4生成了性能全网第一的GolangWorkerPool,轻松打败GitHub万星项目》,这标题是挺容易被怼,哇咔咔;不过最......