首页 > 其他分享 >LlamaIndex 安装与配置(不含OpenAI)

LlamaIndex 安装与配置(不含OpenAI)

时间:2024-04-14 23:13:33浏览次数:23  
标签:index https llms 不含 LlamaIndex OpenAI llama openai 安装

 

  pip install llama-index

这是一个包含以下组件的启动包:

  • llama-index-core
  • llama-index-legacy (暂时包含)
  • llama-index-llms-openai
  • llama-index-embeddings-openai
  • llama-index-program-openai
  • llama-index-question-gen-openai
  • llama-index-agent-openai
  • llama-index-readers-file
  • llama-index-multi-modal-llms-openai

 

自定义安装(通过 Pip)

如果你不使用 OpenAI,或者想要更精细的选择性安装,你可以按需安装单个包。

例如,对于使用 Ollama 和 HuggingFace 嵌入的本地设置,安装可能如下所示:

   pip install llama-index-core llama-index-readers-file llama-index-llms-ollama llama-index-embeddings-huggingface  

查看我们的使用本地模型的入门示例。https://docs.llamaindex.ai/en/stable/getting_started/starter_example_local/

LLM 使用与配置的完整指南在此处可获得。https://docs.llamaindex.ai/en/stable/module_guides/models/llms/

嵌入模型使用与配置的完整指南在此处可获得。https://docs.llamaindex.ai/en/stable/module_guides/models/embeddings/

 

从源码安装

克隆此仓库:git clone https://github.com/jerryjliu/llama_index.git。然后执行以下操作:

  1. 安装 poetry —— 它将帮助你管理包依赖
  2. poetry shell —— 此命令创建一个虚拟环境,将已安装的包隔离到该项目中
  3. poetry install —— 这将安装核心启动包的依赖项
  4. (可选)poetry install --with dev, docs —— 这将安装本地开发所需的全部依赖项

之后,你可以根据需要使用 pip 安装集成,例如: 

pip install -e llama-index-integrations/llms/llama-index-llms-ollama   AI 新世代 ToolChatAi Ref:https://docs.llamaindex.ai/en/stable/getting_started/installation/ Link:https://www.cnblogs.com/farwish/p/18133695

标签:index,https,llms,不含,LlamaIndex,OpenAI,llama,openai,安装
From: https://www.cnblogs.com/farwish/p/18133695

相关文章

  • LlamaIndex 起步教程(本地模型)
     提示:确保您已先按照自定义安装步骤操作。这是一个著名的“五行代码”起步示例,使用本地LLM(大语言模型)和嵌入模型。我们将使用BAAI/bge-small-en-v1.5作为嵌入模型,通过Ollama服务的Mistral-7B作为LLM。下载数据本示例使用PaulGraham的文章《WhatIWorkedOn》文本......
  • LlamaIndex 探索视频系列
     如果您喜欢通过视频学习,现在正是查看我们的“探索LlamaIndex”系列的好时机。否则,我们建议您继续阅读“理解LlamaIndex”教程。自下而上开发(LlamaDocsBot)这是“探索LlamaIndex”系列中的一个子系列,向您展示如何从零开始构建文档聊天机器人。我们将以“自下而上”的方式......
  • LlamaIndex 常见问题解答(FAQ)
     提示:如果您尚未完成,请安装LlamaIndex并完成起步教程。遇到不熟悉的术语时,请参考高层次概念部分。在这个章节中,我们将从您为起步示例编写的代码开始,展示您可能希望针对不同应用场景对其进行的常见定制方法:python fromllama_index.coreimportVectorStoreIndex,Simp......
  • RAG 工具和框架介绍: Haystack、 LangChain 和 LlamaIndex
     Haystack、LangChain和LlamaIndex,以及这些工具是如何让我们轻松地构建RAG应用程序的? 我们将重点关注以下内容:HaystackLangChainLlamaIndex增强LLM那么,为什么会有这些工具存在呢?如你所知,ChatGPT和其他LLM是在某个时间点之前的一组数据上进行训练的。更重要的是,它......
  • zhipuAI接口兼容openai
    zhipuAI接口兼容openai最近debug发现质谱AI的接口是兼容openai这个库的首先访问官网,获取一个key然后使用下面的代码生成jwttoken,apikey天获取的key,exp_seconds是过期时间defgenerate_token(apikey:str,exp_seconds:int):try:id,secret=apikey.sp......
  • 纯C语言手搓GPT-2,前OpenAI、特斯拉高管新项目火了
    众所周知,大语言模型还在快速发展,应该有很多可以优化的地方。我用纯C语言来写,是不是能优化一大截?也许很多人开过这样的脑洞,现在有大佬实现了。今天凌晨,前特斯拉Autopilot负责人、OpenAI科学家AndrejKarpathy发布了一个仅用1000行代码即可在CPU/fp32上实现GPT-2......
  • OpenAI的秘密武器、ChatGPT背后功臣RLHF,被开源了
    OpenAI的秘密武器、ChatGPT背后功臣RLHF,被开源了。来自HuggingFace、加拿大蒙特利尔Mila研究所、网易伏羲AILab的研究人员从零开始复现了OpenAI的RLHFpipeline,罗列了25个关键实施细节。最终成功展示了随着模型大小的增加,响应质量显著提升的scaling行为,其中2.8B、6.9B的P......
  • GPT-3.5开放免费使用,这次OpenAI做到了真的open
    本周一,OpenAI宣布,部分地区的ChatGPT网站访问者现在无需登录即可使用人工智能助手。此前,该公司要求用户创建账户才能使用,即使是目前由GPT-3.5AI语言模型支持的免费版ChatGPT也是如此。01.GPT-3.5开放免登录使用众所周知,与ChatGPT收费版本中的GPT-4Turbo相比,GPT-3.5提供的信......
  • OpenAI劲敌出手!Claude 3正式发布,全面超越GPT-4。Claude3模型特点和使用教程分享
    已有GPT官方账号不会升级GPT4请参考:【国内如何用gpt4?如何升级gpt4?保姆级教程】一、Claude震撼发布焦点分析1.Claude震撼发布北京时间2024年3月4日晚间,Anthropic,毫无预警地发布了最新一代大模型Claude3,距离上一代的Claude2发布,仅相隔8个月。Claude发布了最新的大模型Cla......
  • AI大模型开发基础篇之OpenAI大模型生态
    文章目录前言一、语⾔类⼤模型二、图像大模型三、语音识别模型四、语音合成模型五、文本向量化模型六、审查模型七、编程大模型八、API命名规范总结前言在讨论OpenAI的大模型时,大家耳熟能详的通常是ChatGPT3.5和ChatGPT4;然而实际上远不止于此,OpenAI公司在自然语言处......