首页 > 其他分享 >LLM的API KEY获取和测试

LLM的API KEY获取和测试

时间:2024-08-20 20:29:45浏览次数:5  
标签:API code KEY api LLM import response

openai

openai国内不能访问,只能通过第三方渠道访问,以F2API为例

获取API KEY地址:https://f2api.com/login

测试API KEY是否可用

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    openai_api_base="https://api.f2gpt.com", openai_api_key="******"
)
res = llm.invoke("1+2等于多少")
print(res.content)

百度千帆

直接访问百度千帆平台获取AK和SK:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Hlwerugt8

测试AK和SK是否可用

import os
import qianfan
 # 使用AK和SK 设置环境变量
os.environ["QIANFAN_ACCESS_KEY"]="******"
os.environ["QIANFAN_SECRET_KEY"]="******"

chat_comp = qianfan.ChatCompletion(model="ERNIE-Speed-128K")
resp = chat_comp.do(messages=[{
    "role": "user",
    "content": "你好,千帆"
}], top_p=0.8, temperature=0.9, penalty_score=1.0)

print(resp["result"])

通义千问

直接访问通义千问平台获取API KEY:https://help.aliyun.com/zh/dashscope/developer-reference/acquisition-and-configuration-of-api-key?spm=a2c4g.11186623.0.0.24635120c6myVu

测试API KEY是否可用

import random
from http import HTTPStatus
import dashscope
from dashscope import Generation  # 建议dashscope SDK 的版本 >= 1.14.0
# 设置api key
dashscope.api_key = '******'
def call_with_messages():
    messages = [{'role': 'system', 'content': 'You are a helpful assistant.'},
                {'role': 'user', 'content': '如何做西红柿炒鸡蛋?'}]
    response = Generation.call(model="qwen-turbo",
                               messages=messages,
                               # 设置随机数种子seed,如果没有设置,则随机数种子默认为1234
                               seed=random.randint(1, 10000),
                               # 将输出设置为"message"格式
                               result_format='message')
    if response.status_code == HTTPStatus.OK:
        print(response)
    else:
        print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (
            response.request_id, response.status_code,
            response.code, response.message
        ))


if __name__ == '__main__':
    call_with_message

标签:API,code,KEY,api,LLM,import,response
From: https://www.cnblogs.com/yjh1995/p/18370249

相关文章

  • 【实用】【一眼就会】【直接可用】文件上传 附件上传 前后端分离 分布式 多文件上传
    思路:1、先保存主要信息,存到数据库。2、查询这条数据的id、uid3、上传附件功能:根据id、uid、文件。请求:附件API接口。4、后端接口中:先判断登录状态,5、创建对应的文件夹并存入文件,文件夹名以id名命名。6、把附件名重命名,以uuid命名。7、把所有的文件路径放到集合里,传入id......
  • TS中特殊类型-any、unknown、never和extends继承约束、keyof的使用
    一、anyany类型是没有任何限制的,一旦变量设置为any等于是把类型检查关闭了,TS不会去进行校验,个人认为既然使用了TS,尽可能还是不要使用any,除非是为了把js项目快速过渡到TS项目,把复杂的类型先用any定义,让项目能够快速启动,但是建议后续还是需要把any重写成对应的类型二、unknownunk......
  • apisix部署
    apisix部署1、部署etcd,传送阵:单节点部署、集群部署。 2、使用rpm部署apisix,官网还有docker、helm、deb、源码等方式部署,详情参看官网:https://apisix.apache.org/docs/apisix/installation-guide/。yuminstall-yyum-utilsyuminstall-yhttps://repos.apiseven.com/pack......
  • LLM应用实战: 产业治理多标签分类
    1. 背景许久未见,甚是想念~近期本qiang~换了工作,处于新业务适应期,因此文章有一段时间未更新,理解万岁!现在正在着手的工作是产业治理方面,主要负责其中一个功能模块,即按照产业治理标准体系,针对企业介绍及其专利数据进行多标签分类。本期的干货就是分享关于如何基于LLM实现数量多......
  • iPaaS丨API低代码平台适用的业务场景
    API低代码开发平台在数字化转型加速的当下,API低代码开发平台作为技术创新的前沿阵地,正逐步成为企业构建高效、灵活IT架构的关键支撑。该平台不仅继承了微服务架构的诸多优点,如高内聚、低耦合,还深度融合了低代码开发理念,为开发团队提供了前所未有的便捷与高效。平台通过数据模型......
  • 大语言模型LLM
    目录LLM训练方法LLM高效训练/省内存LLM与知识图谱(KGs)结合LLM开源项目LLM训练集及评估一、语言模型的发展语言模型(LanguageModel,LM)目标是建模自然语言的概率分布,具体目标是构建词序列w1,w2,…,wm的概率分布,即计算给定的词序列作为一个句子出现可能的大小P(w1w2…wm)。但......
  • 智能小程序 Ray 开发面板 SDK —— 多语言 API 汇总
    APIAPI示例中的多语言数据源均来自于下方多语言对象exportdefault{en:{dsc_edit:'Edit',//Basicmultilanguagewithdsc_startandnameitsemanticallydsc_hour:'Hour',dsc_minute:'Minute',dsc_countdown_on:'Turnon......
  • API数据在跨境电商发挥什么作用?
    跨境电商与API数据密切相关,API数据在跨境电商的各个环节都发挥着重要作用,具体关系如下:数据获取与同步:API作为数据交换的接口,使跨境电商系统能够实时获取不同电商平台的商品数据,如价格、库存、描述、图片等详细信息,并保持数据的同步更新。这样商家可以在自己的跨境电商......
  • 【pipenv】failed to create virtual enviroment: TypeError: canonicalize_version()
    环境:python--versionPython3.9.1pip--versionpip24.2pipshowpipenv2024.0.1pipshowsetuptools73.0.0未成功的解决方案:升级各个版本:pipinstall--upgradepipsetuptoolspipinstall--upgradepipenvpipenv--clearpipenvinstall--skip-lockpipinsta......
  • 10倍加速LLM计算效率:消失的矩阵乘
    矩阵乘法(MatMul)是深度学习中的主要计算瓶颈,尤其在ChatGPT等Transformer模型中,矩阵乘法的运行时长约占其总运行时长的45-60%,解决这一挑战对发展更经济的大模型具有重要意义。为此,加州大学的研究人员在论文《ScalableMatMul-freeLanguageModeling(可扩展的无矩阵乘法语言模......