文章目录
一、关于 QAnything
QAnything 由网易有道产出的 RAG 系统
QAnything ：Question and Answer based on Anything
- 基于模型：Qwen 微调
- 支持格式: PDF(pdf)，Word(docx)，PPT(pptx)，XLS(xlsx)，Markdown(md)，电子邮件(eml)，TXT(txt)，图片(jpg，jpeg，png)，CSV(csv)，网页链接(html)
- 使用 两阶段检索，增强准确率
一阶段embedding检索 + 二阶段rerank重排 - 使用的检索组件 BCEmbedding，有非常强悍的双语和跨语种能力，能消除语义检索里面的中英语言之间的差异。
- 在线试用QAnything](https://qanything.ai/) ： https://qanything.ai/
- github : https://github.com/netease-youdao/QAnything
- 文档：https://github.com/netease-youdao/QAnything/blob/master/README_zh.md
模型地址：
- modelscope: https://modelscope.cn/models/netease-youdao/QAnything
- wisemodel: https://wisemodel.cn/models/Netease_Youdao/qanything
- huggingfase: https://huggingface.co/netease-youdao/QAnything
架构
二、我的在线试用
试用 QAnything
我上传了一篇文章，然后提问，效果如下：
展开 数据来源
试用 速读
对话
三、使用
参考：https://github.com/netease-youdao/QAnything/blob/master/README_zh.md
常见文档：https://github.com/netease-youdao/QAnything/blob/master/FAQ_zh.md
安装
# 下载
git clone https://github.com/netease-youdao/QAnything.git
cd QAnything
bash run.sh # 默认在0号GPU上启动
启动
- 查看更多启动方法：https://github.com/netease-youdao/QAnything/blob/master/docs/QAnything_Startup_Usage_README.md
- 执行
bash ./run.sh -h获取详细的LLM服务配置方法
（可选）指定单GPU启动
指定0号GPU启动 GPU编号从0开始 windows机器一般只有一张卡，所以只能指定0号GPU
bash ./run.sh -c local -i 0 -b default
（可选）指定多GPU启动
指定0,1号GPU启动，请确认有多张GPU可用，最多支持两张卡启动
bash ./run.sh -c local -i 0,1 -b default
体验
前端页面
运行成功后，即可在浏览器输入以下地址进行体验。
前端地址: http://your_host:5052/qanything/
API
如果想要访问API接口，请参考下面的地址:
- API address: http://
your_host:8777/api/ - For detailed API documentation, please refer to QAnything API 文档
关闭服务
bash close.sh
2024-04-01（一）
标签：github,youdao,QAnything,netease,https,GPU From： https://blog.csdn.net/lovechris00/article/details/137241947