智谱GLM Api接口适配langchain OpenAI llamaindex的openAI接口

动机

OpenAI充值比较麻烦，且访问不是那么方便。因此想用国内的api的去调试和测试一个任务。但是很多教程都是以openAI的接口为例子的，因此学习起来就不那么方便。本文参考了huggging face中迁移OpenAI的博客，chatGLM cookbook关于接口的迁移文档，llamindex OpenAIlike的示例，终于调试成功了！！如何用接口在langchain 和 llamaindex中使用chatGLM api。

OpenAI 的迁移

这个在glm_cookbook里面说的很清楚的了。示例代码如下。在openai中改以下api_key和base_url就可以了。图片截取自cookbook，

langchain openAI库的迁移

具体链接可查看langchain_glm.

llamaindex-openailike的迁移

以下截图来自hugging face. 这里说明的是hugging face的endpoint的接口

对于chatGLM 我们也可以稍作修改，将model和api_key api_base修改就可以了。

from llama_index.llms.openai_like import OpenAILike


api_key = "xxxxxxx"
api_base="https://open.bigmodel.cn/api/paas/v4"
api_base = "https://open.bigmodel.cn/api/paas/v4"
model = "glm-4"
llm = OpenAILike(
    model=model, 
    api_base=api_base, 
    api_key=api_key, 
    is_chat_model=True,
    is_local=False,
    is_function_calling_model=False,
    )


llm.complete('你好')

测试结果如下，成功访问！！！