前言
自从Chatgpt横空出世以来,各种智能工具层出不穷,聊天、绘画、视频等各种工具帮助很多人高效的工作。作为一个开发者,目前常用应用包括代码自动填充,聊天助手等。
这些是工具层面的使用,有没有将大模型和日常编码的前后端流程相结合使用的切入点呢?今天分享一个使用大模型自动调用api接口的示例,可以作为大模型在开发中的另一种使用场景。
接口说明
示例接口如下,一个八字测算的接口(仅做示例,非封建迷信)
请求接口:[https://api.yuanfenju.com/index.php/v1/Bazi/paipan](https://api.yuanfenju.com/index.php/v1/Bazi/paipan)
请求方法:POST
请求body:
{
"api_key": "xxxx",
"name": "张三",
"sex": 0,
"type": 1,
"year": 2000,
"month": 10,
"day": 10,
"hours": 22,
"minute": 0
}
api_key 需要在网站申请
请求示例:
大模型提取信息发送请求
接口的信息如上,正常开发过程是构造好url, body,然后发送请求。使用大模型首先将文字的信息提取变成请求的body体,使用的langchain框架来完成。
原理非常简单,就是创建合适的提示词,让大模型提取传入内容中的关键字段,并以json格式返回。
示例如下
import os
import requests
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import JsonOutputParser
from langchain_openai import ChatOpenAI
os.environ["OPENAI_API_KEY"] = "sk-eCWGtrwU14E60A45E8a2T3BlbKFJ18b59d41Fdb748828B0f"
os.environ["OPENAI_API_BASE"] = "https://aigptx.top/v1"
def fun(query):
url = f"https://api.yuanfenju.com/index.php/v1/Bazi/cesuan"
# 创建大模型提示词,提取文字的内容
prompt = ChatPromptTemplate.from_template(
"""你是一个参数查询助手,根据用户输入内容找出相关的参数并按json格式返回。
JSON字段如下:
- "api_key": "K0I5WCmce7jlMZzTw7vi1xsn0",
- "name": "姓名",
- "sex": "性别,0表示男,1表示女,根据姓名判断",
- "type": "日历类型,0农历,1公里,默认1",
- "year": "出生年份 例:1998",
- "month": "出生月份 例 8",
- "day": "出生日期,例:8",
- "hours": "出生小时 例 14",
- "minute": "0",
如果没有找到相关参数,则需要提醒用户告诉你这些内容,只返回数据结构,不要有其他的评论,
用户输入:{query}""")
chain = prompt | ChatOpenAI(temperature=0) | JsonOutputParser()
data = chain.invoke({"query": query})
print(f"接口body格式化结果: {data}")
result = requests.post(url, data)
if result.status_code == 200:
print(f"接口关键信息:{result.json()['data']['bazi_info']}")
try:
content = result.json()
res = f"八字为:{content['data']['bazi_info']['bazi']}"
print(res)
except Exception as e:
print(f"八字查询失败,返回数据异常: {e}")
else:
print("接口请求状态异常")
if __name__ == "__main__":
query = "2000年10月10日22时"
fun(query)
结果:
接口body格式化结果: {'year': '2000', 'month': '10', 'day': '10', 'hours': '22', 'api_key': 'K0I5WCmce7jlMZzTw7vi1xsn0', 'name': '姓名', 'sex': '性别,0表示男,1表示女,根据姓名判断', 'type': '日历类型,0农历,1公历,默认1', 'minute': '0'}
接口关键信息:{'kw': '戌亥', 'tg_cg_god': ['正财', '劫财', '日元', '偏财'], 'bazi': '庚辰 丙戌 丁卯 辛亥', 'na_yin': '白蜡金'}
八字为:庚辰 丙戌 丁卯 辛亥
复现必要准备:
- 安装langchain
- 国内openai代理
- 网站api_key
分析
首先构造提示词,这是整个流程的灵魂。通常提示词常见使用CRISPE框架,它可以为模型提供详细的背景,任务目标和输出格式要求。
CR:capacity and role 能力与角色 | 希望模型扮演怎样的角色以及角色具有的能力 | 你是一个参数查询助手 |
---|---|---|
I:insight 洞察力 | 完成任务依赖的背景信息 | |
S:statement 指令 | 希望模型做什么,任务的核心关键词和目标 | 根据用户输入内容找出相关的参数 |
P:personality 个性 | 希望模型以什么样的风格或方式输出 | 并按json格式返回 |
E:experiment 尝试 | 要求模型提供多个答案,任务输出结果数量 |
本示例中提示词:
# 创建大模型提示词,提取文字的内容
prompt = ChatPromptTemplate.from_template(
"""你是一个参数查询助手,根据用户输入内容找出相关的参数并按json格式返回。
JSON字段如下:
- "api_key": "K0I5WCmce7jlMZzTw7vi1xsn0",
- "name": "姓名",
- "sex": "性别,0表示男,1表示女,根据姓名判断",
- "type": "日历类型,0农历,1公里,默认1",
- "year": "出生年份 例:1998",
- "month": "出生月份 例 8",
- "day": "出生日期,例:8",
- "hours": "出生小时 例 14",
- "minute": "0",
如果没有找到相关参数,则需要提醒用户告诉你这些内容,只返回数据结构,不要有其他的评论,
用户输入:{query}""")
调用过程:
chain = prompt | ChatOpenAI(temperature=0) | JsonOutputParser()
data = chain.invoke({"query": query})
print(f"接口body格式化结果: {data}")
通过合适的提示词,将传入的信息 2000年10月10日22时
提取出来,组装成一个结果。其中ChatOpenAI(temperature=0)
是让大模型不要发散思维,严格按照提示词来生成内容,避免结果不准确。JsonOutputParser()
返回的结果json格式化。
{'year': '2000', 'month': '10', 'day': '10', 'hours': '22', 'api_key': 'K0I5WCmce7jlMZzTw7vi1xsn0', 'name': '姓名', 'sex': '性别,0表示男,1表示女,根据姓名判断', 'type': '日历类型,0农历,1公历,默认1', 'minute': '0'}
然后使用requests
发送post请求,解析返回结果。
小结
这是一个很简单的大模型应用,主要看点在于使用大模型组织接口调用的参数,包括字段和格式,替换手动编码的实现方式。个人认为在复杂或者变化频繁的场景下能稍微提升效率。
标签:10,模型,接口,api,key,query,巧用 From: https://www.cnblogs.com/goldsunshine/p/18489899