• 2024-12-30通过代码彻底搞懂 Ragas 的 Context Precision 是什么
    通过代码彻底搞懂Ragas的ContextPrecision是什么在信息检索和机器学习中,评估检索结果的质量非常重要。ContextPrecision是一个用于衡量"检索上下文"中相关文本块比例的指标。它的计算方法是对上下文中每个文本块的精度@k值取平均。精度@k是指在排名k位置的相关文本
  • 2024-08-20ragas测试
    ragas可支持使用不同的embedding和llm进行计算,默认使用的是OpenAIEmbeddings(model="text-embedding-ada-002")、ChatOpenAI(model="gpt-3.5-turbo")。目前国内支持的大模型有:百度千帆、通义千问、百川、Yuan2、智谱ai下面以三种渠道的embedding和llm为例进行ragas测试。
  • 2024-08-05《Advanced RAG》-03-使用 RAGAs + LlamaIndex 进行 RAG 评估
    摘要文章首先介绍了RAG评估的三个主要部分:输入查询、检索上下文和LLM生成的响应。提到了RAGAs提出的RAG评估指标,包括Faithfulness、AnswerRelevance和ContextRelevance,以及RAGAs网站提供的两个额外指标:ContextPrecision和ContextRecall。详细解释了每
  • 2024-06-18Ragas实践问题记录1 ValueError: Directory ./arxiv-papers/ does not exist.
    纯小白,记录一下在尝试ragas时遇到的一些问题。尝试官方文档“CompareLLMsusingRagasEvaluations”时,在Createsynthetictestdata步骤复制github中的代码时,遇到了以下问题:ragas官方文档查看请点此解决方法是前往openxlab下载数据集,再使用本地的路径替换掉报错的地方
  • 2024-06-18Ragas实践问题记录2 AttributeError: ‘TestsetGenerator‘ object has no attribute ‘generate_with_llama_index_d
    报错问题依然是在尝试官方文档“CompareLLMsusingRagasEvaluations”的“Createsynthetictestdata”步骤发生报错。官方文档以及文档中代码如下:Ragas:CompareLLMsusingRagasEvaluations官方文档中的代码:importosfromllama_indeximportdownload_loader,Simp