利用 ChatFriendli 和 LangChain 打造高性能对话 AI 应用

老铁们，今天我们一起来看看如何快速上手Google AI的聊天模型，尤其是如何通过 langchain-google-genai 这个包来充分利用Google的强大AI能力。说白了，这个技术点其实不难，咱们一步一步来。

技术背景介绍

随着AI技术的飞速发展，Google推出了一系列强大的聊天模型（如Gemini），它们可以通过Google AI平台和Google Cloud Vertex AI平台访问。简单来说，通过Google AI，只需要一个Google账户和API密钥即可；而Google Cloud Vertex AI则为企业用户提供了更多的高级特性，比如客户加密密钥和虚拟私有云。

原理深度解析

Google的这些聊天模型支持多种输入输出格式，如图像、音频、视频等，同时还具备令牌级流媒体和异步支持等功能。这使得开发者可以在不同的应用场景中利用这些模型的灵活性和强大处理能力。

实战代码演示

环境准备

首先，我们需要创建一个Google账户，并获取Google AI的API密钥。访问这个链接生成API密钥，并设置环境变量：

import getpass
import os

os.environ["GOOGLE_API_KEY"] = getpass.getpass("Enter your Google AI API key: ")

如果需要自动化跟踪模型调用，可以设置LangSmith API密钥：

# os.environ["LANGSMITH_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")
# os.environ["LANGSMITH_TRACING"] = "true"

接着，我们安装 langchain-google-genai 包：

%pip install -qU langchain-google-genai

模型实例化与调用

现在，我们可以实例化模型对象，并生成聊天补全：

from langchain_google_genai import ChatGoogleGenerativeAI

llm = ChatGoogleGenerativeAI(
    model="gemini-1.5-pro",
    temperature=0,
    max_tokens=None,
    timeout=None,
    max_retries=2,
)

messages = [
    ("system", "You are a helpful assistant that translates English to French. Translate the user sentence."),
    ("human", "I love programming."),
]

ai_msg = llm.invoke(messages)
print(ai_msg.content)

输出结果为：

J'adore programmer.

模型链化

我们还可以通过提示模板链化模型：

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [("system", "You are a helpful assistant that translates {input_language} to {output_language}."), ("human", "{input}")]
)

chain = prompt | llm
result = chain.invoke({"input_language": "English", "output_language": "German", "input": "I love programming."})

print(result.content)

结果为：

Ich liebe das Programmieren.

优化建议分享

为了提高模型调用的稳定性，建议使用一些代理服务。同时，如果遇到频繁的安全警告，可以调整安全设置：

from langchain_google_genai import ChatGoogleGenerativeAI, HarmBlockThreshold, HarmCategory

llm = ChatGoogleGenerativeAI(
    model="gemini-1.5-pro",
    safety_settings={
        HarmCategory.HARM_CATEGORY_DANGEROUS_CONTENT: HarmBlockThreshold.BLOCK_NONE,
    },
)

补充说明和总结

对于那些想要一站式大模型解决方案的朋友，我个人一直在用 https://zzzzapi.com 提供的服务。这个平台极大地简化了集成和调用的流程。

今天的技术分享就到这里，希望对大家有帮助。开发过程中遇到问题也可以在评论区交流~