网站首页
编程语言
数据库
系统相关
其他分享
编程问答
TinyLlama
2024-09-24
轻量级模型,重量级性能,TinyLlama、LiteLlama小模型火起来了
前言当大家都在研究大模型(LLM)参数规模达到百亿甚至千亿级别的同时,小巧且兼具高性能的小模型开始受到研究者的关注。小模型在边缘设备上有着广泛的应用,如智能手机、物联网设备和嵌入式系统,这些边缘设备通常具有有限的计算能力和存储空间,它们无法有效地运行大型语言模型。因此,深入探
2024-08-09
《Advanced RAG》-04-深度研究RAG技术Re-ranking
摘要文章首先介绍了重新排序在RAG中的重要性,它允许对检索到的文档进行重新排序和过滤,以确保最相关的文档能够被优先考虑,从而提高RAG的效率和准确性。接着,文章详细描述了两种主流的重新排序方法:一种是使用重新排序模型,如bge-reranker-base和bge-reranker-large等,这些模型
2024-08-05
《Advanced RAG》-03-使用 RAGAs + LlamaIndex 进行 RAG 评估
摘要文章首先介绍了RAG评估的三个主要部分:输入查询、检索上下文和LLM生成的响应。提到了RAGAs提出的RAG评估指标,包括Faithfulness、AnswerRelevance和ContextRelevance,以及RAGAs网站提供的两个额外指标:ContextPrecision和ContextRecall。详细解释了每