首页 > 其他分享 >如何将文本转换为向量?(方法三)

如何将文本转换为向量?(方法三)

时间:2024-07-16 16:41:39浏览次数:6  
标签:DashVector Jina v2 jina 转换 文本 向量

 文本转换为向量有多种方式:

方法一:通过模型服务灵积DashScope将文本转换为向量(推荐)

方法二:通过ModelScope魔搭社区中的文本向量开源模型将文本转换为向量

方法三:通过Jina Embeddings v2模型将文本转换为向量

方法四:通过百川智能向量化模型将文本转换为向量


本文介绍方法三:如何通过Jina Embeddings v2模型文本转换为向量,并入库至向量检索服务DashVector中进行向量检索。

前提条件


Jina Embeddings v2模型

简介

Jina Embeddings v2模型,唯一支持 8192 个词元长度的开源向量模型,在大规模文本向量化基准 (MTEB) 的功能和性能方面与 OpenAI 的闭源模型 text-embedding-ada-002 相当。

模型名称

向量维度

度量方式

向量数据类型

备注

jina-embeddings-v2-small-en

512

Cosine

Float32

  • 词元长度限制:8192

jina-embeddings-v2-base-en

768

Cosine

Float32

  • 词元长度限制:8192

jina-embeddings-v2-base-zh

768

Cosine

Float32

  • 词元长度限制:8192

说明

关于Jina Embeddings v2模型更多信息请参考:Jina Embeddings v2模型

使用示例

说明

需要进行如下替换代码才能正常运行:

  1. DashVector api-key替换示例中的{your-dashvector-api-key}

  2. DashVector Cluster Endpoint替换示例中的{your-dashvector-cluster-endpoint}

  3. Jina AI api-key替换示例中的{your-jina-api-key}

Python示例:

from dashvector import Client
import requests
from typing import List


# 调用Jina Embeddings v2模型,将文本embedding为向量
def generate_embeddings(texts: List[str]):
    headers = {
      'Content-Type': 'application/json',
      'Authorization': 'Bearer {your-jina-api-key}'
    }
    data = {'input': texts, 'model': 'jina-embeddings-v2-base-zh'}
    response = requests.post('https://api.jina.ai/v1/embeddings', headers=headers, json=data)
    return [record["embedding"] for record in response.json()["data"]]
    

# 创建DashVector Client
client = Client(
    api_key='{your-dashvector-api-key}',
    endpoint='{your-dashvector-cluster-endpoint}'
)

# 创建DashVector Collection
rsp = client.create('jina-text-embedding', 768)
assert rsp
collection = client.get('jina-text-embedding')
assert collection

# 向量入库DashVector
collection.insert(
    ('ID1', generate_embeddings(['阿里云向量检索服务DashVector是性能、性价比具佳的向量数据库之一'])[0])
)

# 向量检索
docs = collection.query(
    generate_embeddings(['The best vector database'])[0]
)
print(docs)

标签:DashVector,Jina,v2,jina,转换,文本,向量
From: https://www.cnblogs.com/DashVector/p/18305594

相关文章

  • 你不知道的JavaScript---强制类型转换
    你好,我是小白Coding日志,一个热爱技术的程序员。在这里,我分享自己在编程和技术世界中的学习心得和体会。希望我的文章能够给你带来一些灵感和帮助。欢迎来到我的博客,一起在技术的世界里探索前行吧!JavaScript是一种动态类型语言,这意味着变量可以在不同类型之间自由转换。在开发......
  • C#对象转换Json时的一些高级用法
    [JsonObject(MemberSerialization.OptIn)]//默认为不输出publicclassPeopleInfo{[JsonProperty]//需要输出publicstringName{get;set;}[JsonProperty]//需要输出publicintAge{get;set;}publicDateTimeBirthday{......
  • 三大知名向量化模型比较分析——m3e,bge,bce
    先聊聊出处。M3E是MokaMassiveMixedEmbedding的缩写,Moka,此模型由MokaAI训练,开源和评测,训练脚本使用uniem,评测BenchMark使用MTEB-zhMassive,此模型通过千万级(2200w+)的中文句对数据集进行训练Mixed,此模型支持中英双语的同质文本相似度计算,异质文本检索等功......
  • 如何将文本转换为向量?(方法二)
    ​ 文本转换为向量有多种方式:方法一:通过模型服务灵积DashScope将文本转换为向量(推荐)方法二:通过ModelScope魔搭社区中的文本向量开源模型将文本转换为向量方法三:通过JinaEmbeddingsv2模型将文本转换为向量方法四:通过百川智能向量化模型将文本转换为向量 本文介绍方法二......
  • C++转换进制
    前言本蒟蒻:让C++转进制?我都不会转,更何况让C++转。正文转进制,我们要知道36进制的0-35都用什么表示。0-9就是0-9,而10-35分别是ABCDEFG........RSTUVWXYZ。我们可以设一个字符串表示0-35:strings="0123456789ABCDEFGHIJKLMNOPQRSTUVWXYZ";重要的一步来了,参考以下方法,用while......
  • 代码随想录算法训练营第23天 | 669. 修剪二叉搜索树、108.将有序数组转换为二叉搜索树
    代码随想录算法训练营第22天|669.修剪二叉搜索树、108.将有序数组转换为二叉搜索树、538.把二叉搜索树转换为累加树修剪二叉搜索树:https://leetcode.cn/problems/trim-a-binary-search-tree/description/代码随想录:https://programmercarl.com/0669.修剪二叉搜索树.html#......
  • ragflow本地部署的问题(文本解析不了)
    本文章主要介绍我在部署一个名叫ragflow的开源项目时所遇见的问题以及解决办法。对于这个其实对我的感触很大,因为我花费了一个星期的时间来寻找这个问题的办法,但是却不敬人意,于是我决定换一个思路来解决这个问题。下面就是我对这个问题的详细描述。在本地部署完ragflow后,并且......
  • java mapstruct 同字段LocalDateTime和LocalDate不同类型转换处理
    解决方式:在接口中定义方法传入参数、返回参数为对一个的类型,mapstruct的实现类会自动调用该方法。代码:@Mapper(builder=@Builder(disableBuilder=true))publicinterfaceStlmtCheckingResultConvert{StlmtCheckingResultConvertINSTANCE=Mappers.getMapper(Stl......
  • 木舟0基础学习Java的第十九天(装饰设计模式,转换流,对象操作流(序列化),Properties集合)
    装饰设计模式创建一个接口用一个类实现接口再创建一个类实现这个接口第二个类中包含第一个类中的方法和自己的方法还可以增强案例:publicinterfaceCar{publicvoidrun();publicvoidcarry();}publicclassTaxiimplementsCar{@Overridepub......
  • 0190-定义三维向量
    环境Time2022-11-14WSL-Ubuntu22.04Rust1.65.0前言说明参考:https://raytracing.github.io/books/RayTracingInOneWeekend.html目标将之前定义的三种颜色,封装到一个三维的向量中,保持原有的逻辑不变。main.rsusecrate::vector3::Color;modvector3;fnmain(){......