首页 > 其他分享 >Langchain初体验-GLM4使用

Langchain初体验-GLM4使用

时间:2024-05-30 12:00:28浏览次数:33  
标签:GLM4 初体验 file PID JAR Langchain langchain FILE deployment

GLM4

智谱AI推出新一代基座模型 GLM-4

Langchain

LangChain是一个由大型语言模型( LLMs )驱动的应用开发框架。

依赖

pip install langchain langchain_community httpx httpx_sse PyJWT

Demo

import os
from langchain_community.chat_models import ChatZhipuAI
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage
from langchain_core.callbacks.manager import CallbackManager
from langchain_core.callbacks.streaming_stdout import StreamingStdOutCallbackHandler

os.environ["ZHIPUAI_API_KEY"] = ""

chat = ChatZhipuAI(
    model="glm-4",
    temperature=0.5,
    streaming=True,
    callback_manager=CallbackManager([StreamingStdOutCallbackHandler()]),
)

message = [
    AIMessage(content="Hi"),
    SystemMessage(content="You are an automated operations engineer"),
    HumanMessage(content="give me a shell scripts for deploy java package"),
]


def main():
    response = chat.invoke(message)
    print(response.content)


if __name__ == "__main__":
    main()

响应结果

#!/bin/bash

# Define source and target directories
SOURCE_DIR="/path/to/source"
TARGET_DIR="/path/to/deployment"
JAR_FILE="MyApp.jar"
JAR_PATH="$SOURCE_DIR/$JAR_FILE"

# Define the Java application's PID file and log file
PID_FILE="/path/to/deployment/MyApp.pid"
LOG_FILE="/path/to/deployment/MyApp.log"

# Stop the currently running instance of the application, if any
if [[ -f $PID_FILE ]]; then
    PID=$(cat $PID_FILE)
    kill $PID
    rm $PID_FILE
    echo "Previous instance of the application stopped."
fi

# Copy the new JAR file to the deployment directory
cp "$JAR_PATH" "$TARGET_DIR"
if [[ $? -eq 0 ]]; then
    echo "JAR file successfully copied to deployment directory."
else
    echo "Error copying JAR file. Deployment failed."
    exit 1
fi

# Start the Java application
java -jar "$TARGET_DIR/$JAR_FILE" > "$LOG_FILE" 2>&1 &
echo $! > $PID_FILE

echo "Application started with PID $(cat $PID_FILE)."

Make sure to give execute permissions to the script:

chmod +x deploy.sh

To run the script:

./deploy.sh

标签:GLM4,初体验,file,PID,JAR,Langchain,langchain,FILE,deployment
From: https://www.cnblogs.com/luyifo/p/18222092

相关文章

  • Dify vs Langchain:AI应用开发的全面分析
    1.探索AI应用开发的基础在AI应用开发的世界里,选择一个合适的平台是至关重要的。Dify和Langchain作为这个领域中的佼佼者,各自提供了独特的功能和能力,满足了各种开发者的需求。1.1.平台在AI开发中的作用深入研究AI应用开发时,选择合适的平台对成功至关重要。选对平台非常关键,因......
  • Hugging Face x LangChain: 全新 LangChain 合作伙伴包
    我们很高兴官宣发布langchain_huggingface,这是一个由HuggingFace和LangChain共同维护的LangChain合作伙伴包。这个新的Python包旨在将HuggingFace最新功能引入LangChain并保持同步。源自社区,服务社区目前,LangChain中所有与HuggingFace相关的类都是由社区贡......
  • 一起学习大模型 - langchain里的 PromptTemplate详细介绍
    文章目录前言一、安装LangChain二、基本用法1.导入库并定义模板2.填充模板三、进阶用法1.使用多个变量2.嵌套模板3.动态变量四、应用模板与大模型交互五、疑问解答1.举例说明2.更详细的例子总结前言上一篇文章我们讲了Prompt的概念和作用(大模型的交......
  • 香橙派AIpro开发板初体验
    香橙派AIpro开发板初体验一、引言在当前的AI发展浪潮中,边缘计算逐渐成为了研究的热点。香橙派AIpro开发板作为一款基于昇腾AI技术的开发板,凭借其强大的算力和丰富的接口,为AI边缘计算提供了强大的支持。最近,我也是拿到了官方送来的香橙派AIpro开发板,收到后发现包装里不仅有......
  • AI绘图之Midjourney初体验
    Midjourney(MJ)使用笔记最近尝试了Midjourney绘图,简单记录下使用流程。注册及登陆首先是账号注册和登陆,基本上就是一路下一步,唯一需要注意的是加入MJ频道,具体流程为:打开Discord,点击右上角Login进入登陆界面点击登陆页面下方的Register,进入注册页面输入用于注册的相关信......
  • 5分钟明白LangChain 的输出解析器和链
    本文介绍LangChain的输出解析器OutputParser的使用,和基于LangChain的LCEL构建链。1.输出解析器OutputParser1.1、为什么需要OutputParser常规的使用LangChain构建LLM应用的流程是:Prompt输入、调用LLM、LLM输出。有时候我们期望LLM给到的数据是格式化的数据,方便做后续的处......
  • AI菜鸟向前飞 — LangChain系列之十四 - Agent系列:从现象看机制(上篇)
    上一篇介绍了Agent与LangGraph的基础技能Tool的必知必会AI菜鸟向前飞—LangChain系列之十三-关于Tool的必知必会前面已经详细介绍了Prompt、RAG,终于来到Agent系列(别急后面还有LangGraph),大家可以先看下这张图:   看完我这系列就都懂了:)牛刀初试    由于本篇是入......
  • AI菜鸟向前飞 — LangChain系列之十二 - RAG(下篇):Index和Retriever
    AI菜鸟向前飞—LangChain系列之十-RAG(上篇)AI菜鸟向前飞—LangChain系列之十一-RAG(中篇)先分享个问题的解法#在使用Chroma实例化过程中,可能会出现如下报错AttributeError:typeobject'hnswlib.Index'hasnoattribute'file_handle_count'当使用代码遇到如上问......
  • 大模型开发:第一批用 LangChain 的程序员,早就已经碾压同事了。。
    今年招聘市场确实是好点了,我发现群友都在讨论,得赶快学点AI大模型。他们有的是想正式转到一些新兴的AI行业,需要系统的学习训练。更多的是想跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。这也可以理解,ChatGPT推出仅一年半的时间,就将生成式AI推......
  • 使用本地大语言模型和Langchain手搓免费的AI搜索问答助手
    1概述大语言模型虽然已经有了很多的背景知识,但针对模型训练之后新产生的内容,或者领域内的知识进行提问,大模型本身通常无法准确给出回应,一个常用的解决方法是,借助检索增强生成(RAG),将能够用于回答问题的相关上下文给到大模型,利用大模型强大的理解和生成能力,来缓解这个问题。本文主......