首页 > 其他分享 >解决LLaMA-Factory共享链接的创建问题--[To create a public link, set `share=True` in `launch()`.]

解决LLaMA-Factory共享链接的创建问题--[To create a public link, set `share=True` in `launch()`.]

时间:2024-07-28 13:24:13浏览次数:14  
标签:set launch -- gradio share Factory webui LLaMA True

问题引入

LLaMA-Factory是一种简单有效的LLM微调工具。其所开发的由gradio驱动的webui更是提供了可视化微调,降低了微调大模型的门槛。然而,在使用

llamafactory-cli webui

来创建可视化微调模块时,只能得到本地的网页链接:

这种方法限制了webui模块在服务器或者autodl等租赁网站上的使用,因此,需要修改内部代码,以得到共享链接,便于在个人电脑上操作。

问题解决

执行如下命令可以下载LLaMA-Factory,所有代码都存放于LLaMA-Factory文件夹中。(https://github.com/hiyouga/LLaMA-Factory/blob/main/README_zh.md

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"

此时打开LLaMA-Factory/src/llamafactory/webui/interface.py文件,做以下修改:

def run_web_ui() -> None:
    # gradio_share = os.environ.get("GRADIO_SHARE", "0").lower() in ["true", "1"]
    gradio_share = True  # 直接设置为 True,确保始终共享
    server_name = os.environ.get("GRADIO_SERVER_NAME", "0.0.0.0")
    create_ui().queue().launch(share=gradio_share, server_name=server_name, inbrowser=True)

将其中的gradio_share定义为True,即可生成有效时间72h的共享链接,此时就可以在其他电脑上进行访问。

误区

本人开始觉得将LLaMA-Factory/src/webui.py中的gradio_share定义为True就可以实现共享链接,但事实上程序并没用调用此函数,而是调用了更深层的interface.py。

标签:set,launch,--,gradio,share,Factory,webui,LLaMA,True
From: https://blog.csdn.net/cxzzjw/article/details/140748688

相关文章

  • 如何使用 Pandas 解析函数处理 Excel 中的合并单元格?
    我有一个包含合并的列和行的Excel文件,我想读取该Excel文件并解析它以将其转换为DataFrame。这只是所发生情况的一个小示例,因为我拥有的真实数据非常多很大,有很多桌子。这就是Excel文件的样子:当我尝试时xl=pd.read_excel('file')我得到了这个:......
  • 取消pickle错误:magic_number = pickle_module.load(f, **pickle_load_args) _pickle.U
    当我尝试加载.pt文件时,我看到以下错误,str1='Dataset/ALL_feats_cgqa.pt'm=torch.load(str1)错误如下,File"/home/Storage1/pythonCodeArea/train.py",line21,inload_embeddingsm=torch.load(str1)File"/home/.local/lib/python......
  • Java 中的集合
    Author:ACatSmilingSince:2024-07-28概述在Java语言中,数组(Array)和集合都是对多个数据进行存储操作的结构,简称Java容器。此时的存储,主要指的是内存层面的存储,不涉及到持久化的存储。数组在内存存储方面的特点:数组一旦初始化以后,其长度就确定了。数组一旦定义好,其元素......
  • 修改文件的md5码
    可选文件夹未按照文件类型匹配importosimportrandomimportsysimporthashlibfromtkinterimportfiledialogdefmd5_change(file_name):file=open(file_name,'a')file.write('###&&&')file.close()_FILE_SLIM=100*102......
  • luogu P1896 [SCOI2005] 互不侵犯 题解
    luoguP1896[SCOI2005]互不侵犯题解题目传送门思路状态压缩dp。状态压缩dp对于每一行,用一个\(n\)位二进制数表示每行的状态,则对于上下两行之间,设上行的数字为\(a\),下行的数字为\(b\),状态不合法有三种情况:\(a\operatorname{and}b\neq0\),即存在上行与下行同......
  • Linux中安装JDK教程
    一、卸载Linux自带的OpenJDK1、首先检查虚拟机是否自带OpenJDK,执行java-version命令[root@localhostsuyintuolo]#java-versionopenjdkversion"1.8.0_242"OpenJDKRuntimeEnvironment(build1.8.0_242-b08)OpenJDK64-BitServerVM(build25.242-b08,mixedmode......
  • Linux 中6种查看日志命令
    Linux查看日志的命令有多种:tail、cat、head、echo等,本文只介绍几种常用的方法。1、tailtail -n 10 test.log  查询日志尾部最后10行的日志;tail -n+10 test.log 查询10行之后的所有日志;tail -fn10 test.log  循环实时查看最后1000行记录(......
  • Mysql安装教程【实测有效】
     一、查找并卸载原有的mysql数据库1.使用rpm-qa|grepmysql命令查找mysql数据库软件包及依赖包;若没有任何显示则证明没有相关的mysql数据库;若显示了相关的软件包及依赖包,使用 yumremovexxx命令依次删除显示的包;注意:xxx为显示的软件包及依赖包包名;2.使用 find/......
  • Redis(三)事务、管道、主从复制
    事务事务是可以执行一个命令,也可以执行多个命令,事务本质上是一组命令的集合。一个事务中的所有命令都会序列化,按顺序地串行化地执行而不会被其他命令插入Redis事务和传统数据库的区别单独的隔离操作:Redis的事务仅仅是保证事务里面的操作会被连续独占的执行,redis命令的执行......
  • 在 FastAPI + JWT 身份验证中如何最好地实现 is_active ?
    我的用户模型有一个字段is_active。如果为假,则说明该用户的账户被封锁。在这种情况下如何实施访问限制?我应该拒绝用户访问某些端点吗?执行此检查的最佳地点在哪里?如果is_active=False,它是否应该在get_current_user依赖项中?我的依赖项函数get_current_userasyncdefg......