首页 > 其他分享 >本地部署 Flux.1 最强文生图大模型!Comfyui 一键安装

本地部署 Flux.1 最强文生图大模型!Comfyui 一键安装

时间:2024-08-31 10:51:14浏览次数:6  
标签:FLUX.1 文生 Comfyui 模型 dev schnell ComfyUI Flux.1 fp8

前言

最近,由前 Stability AI员工创立的黑森林实验室推出了开源文生图大模型–FLUX.1横空出世。

FLUX.1在文字生成、复杂指令遵循人手生成上具备优势。以下是其生成图像示例,可以看到即使是生成大段的文字、多个人物,也没有出现字符、人手等细节上的错误。

有了SD的经验,可以对FLUX放心使用。话不多说,让我们先上手。

一、安装
先把ComfyUI升级到最新版。
尽管很多网友称16G显卡方能跑的很好,经过实测,12G显卡也能跑的起来,速度并不比SD3慢多少。
模型下载:

本文涉及模型、插件下载请扫描免费获取哦

在这里插入图片描述

1、模型

Flux 模型总共有3个,分别是:Flux Pro、Flux Dev、Flux Schnell,下面是其性能的对照图

  1. [pro] 是最顶级的模型,但是只能通过 API 调用;

  2. [dev] 是由[pro]提炼,开源但非商用,质量和效果与[pro]类似;

  3. [schnell] 是经过蒸馏的 4 步模型,速度比 [dev] 快 10 倍,Apache 2 开源许可。

下载 Flux 模型:FLUX 模型有四个可选,FLUX.1 [dev] 、FLUX.1 [dev] fp8、FLUX.1 [schnell]、FLUX.1 [schnell] fp8;

  1. ① FLUX.1 [dev] :官方版本满配版,最低显存要求24G;下载地址:

  2. 【点击下载】

  3. https://huggingface.co/black-forest-labs/FLUX.1-dev/tree/main

  4. ② FLUX.1 [dev] fp8:大佬优化 [dev] 后版本,建议选择此版本,最低 12G 显存可跑;

  5. 【点击下载】

  6. https://huggingface.co/Kijai/flux-fp8/blob/main/flux1-dev-fp8.safetensors

③ FLUX.1 [schnell]:4 步蒸馏模型,大多数显卡可跑。

【点击下载】

https://huggingface.co/black-forest-labs/FLUX.1-schnell/blob/main/flux1-schnell.safetensors

7 ④ FLUX.1 [schnell] fp8:优化 版本,适应更低的显卡配置。

  1. 【点击下载】

  2. https://huggingface.co/Kijai/flux-fp8/blob/main/flux1-schnell-fp8.safetensors

安装路径:ComfyUI\models\unet

(为了方便区分其他模型,如Kolors,可以在unet下面创建一个目录FLUX放入其中)
2、VAE
ae.sft

【点击下载】

https://huggingface.co/black-forest-labs/FLUX.1-schnell/blob/main/ae.safetensors

安装路径:ComfyUI\models\vae
3、CLIP

需下载 t5xxl_fp16.safetensors 或 t5xxl_fp8_e4m3fn.safetensors (建议选择fp8 版本,如果你显存超过 32G 可选择 fp16 版本)

还有 clip_l.safetensors 到 ComfyUI/models/clip/ 目录中:【点击前往】

https://huggingface.co/comfyanonymous/flux_text_encoders/tree/main

安装路径:ComfyUI\models\clip
4、工作流
https://pan.quark.cn/s/f87159f40289

二、节点介绍

安装好ComfyUI后,根据电脑配置选择CPU还是N卡进行生图。运行对应的bat文件。

如果你安装过Kolors(可图),会发现安装完模型后,可以直接使用这个工作流。如果你对工作流不熟,可以直接拖到看第三部分介绍的傻瓜式操作。

1、模型加载器

UNET:如果显存大于等于12G,可以加载flux1-dev.sft

weight_dtype:如果显存小于48G,请启用量化,fp8_e4m3fn

2、clip模型加载

如图加载这两个模型即可

3、VAE

需要加载专用VAE,ae.sft

另,步数推荐20步。

4、提示词Prompt

雨中的小女孩

The highest image quality, masterpiece, Number of photos, 1 girl in Highly Detailed Face and Skin Textur, photorealistic eye, beautiful detailed eyes, (Realistic skin), Attractive, Ultra-high sharpness, hyper realisitc, Very meticulous, sweatshirts, raindrop on the face, be desperate, compassionate

5、Lora

C站已经有不少大佬炼丹的lora了,比如下面的图,如果不是看吊牌的金属扣,你已经很难区分这是AI生图了。

上图就是用XLabs Flux Realism LoRA生成的,已经有10k下载量了

Flux.1其实已经很写实了,大家可以看下lora生图的对比。喜欢哪种风格,就看个人审美了。

三、测试跑图

flux_schnell_example 的示例我们可以直接从下面网址获取,将对应模型的图片拖入打开的http://127.0.0.1:8188/网页即可:https://comfyanonymous.github.io/ComfyUI_examples/flux/

同样,上面第二节的示例也可以拖进浏览器界面查看工作流和提示词,模型根据报错内容调整即可,快来体验下Flux.1的强大吧~因为lora的部分内容很丰富,后续我也会分享一些大佬上传的好玩有趣的lora,大家敬请期待
为了帮助大家更好地掌握 ComfyUI,我在去年花了几个月的时间,撰写并录制了一套ComfyUI的基础教程,共六篇。这套教程详细介绍了选择ComfyUI的理由、其优缺点、下载安装方法、模型与插件的安装、工作流节点和底层逻辑详解、遮罩修改重绘/Inpenting模块以及SDXL工作流手把手搭建。

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

在这里插入图片描述

一、ComfyUI配置指南

  • 报错指南
  • 环境配置
  • 脚本更新
  • 后记

img

二、ComfyUI基础入门

  • 软件安装篇
  • 插件安装篇

img

三、 ComfyUI工作流节点/底层逻辑详解

  • ComfyUI 基础概念理解
  • Stable diffusion 工作原理
  • 工作流底层逻辑
  • 必备插件补全

img

四、ComfyUI节点技巧进阶/多模型串联

  • 节点进阶详解
  • 提词技巧精通
  • 多模型节点串联

img

五、ComfyUI遮罩修改重绘/Inpenting模块详解

  • 图像分辨率
  • 姿势

img

六、ComfyUI超实用SDXL工作流手把手搭建

  • Refined模型
  • SDXL风格化提示词
  • SDXL工作流搭建

img

由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取

在这里插入图片描述

img

标签:FLUX.1,文生,Comfyui,模型,dev,schnell,ComfyUI,Flux.1,fp8
From: https://blog.csdn.net/z19981/article/details/141749082

相关文章

  • 【ComfyUI工作流】人物一致性工作流!
    前言本期分享一个人物一致性控制工作流,主要思路是通过固定随机数种子,定制潜空间噪声图案,提示词表情控制来实现任务一致性的控制,下面将进行工作流的讲解。***宏观工作流预览从宏观层面看,工作流主要有四部分组成,分别是提示词控制区域,主干道区域,潜空间控制区域和最终的图......
  • 「ComfyUI」增强图像细节只需要一个节点,SD1.5、SDXL、FLUX.1 全支持,简单好用!
    ‍‍‍‍‍前言今天给小伙伴们介绍一个非常简单,但又相当好使的一个插件。功能很简单,就是增加或者减少图像的细节,节点也很简单,就一个节点,只需要嵌入我们的ComfyUI的基础工作流中就可以了,随插随用。而且该插件不仅支持SD1.5和SDXL,甚至最新出的FLUX.1模型也是支持的......
  • 在低显存GPU上运行PixArt-Σ/Flux.1图像生成:Python简短教程
    由PixArt-Σ在本地生成,所需显存不超过8Gb。图像生成工具的热度从未如此高涨,而且它们也变得越来越强大。像PixArtSigma和Flux.1这样的模型处于领先地位,这得益于它们的开源权重模型和宽松的许可协议。这种设置允许进行创造性的尝试,包括在不共享计算机外部数据的情况下训练LoRA......
  • 最强图像反推Joy_Caption结合ComfyUI Flux GGUF的使用
    前言前言对于图像的提示词反推,大家不都陌生,最开始使用的WD14反推,到我之前写的文章[Flux超强图像提示词伴侣MiniCPM-V2.6(超强)|ComfyUI中Flux实现无IPA三图创意融合]反推的效果都在增强,今天再给大家推荐一款,号称最强提示词反推工具:JoyCaption,在ComfyUI中的安装,以及结合......
  • ComfyUI-插件IPAdapter图片融合(附插件)
    哈喽大家好,前两期介绍了IPAdapter的风格迁移和人物形象迁移,这期来分享下如何利用IPAdapter实现两张图的融合参考图1参考图2融合图图片融合1、工作流将基础工作流中的【IPAdapterUnifiedLoader】节点换成【IPAdapterUnifiedLoaderCommunity】【IPAdapter】节......
  • (5-2-02)常用的文生图预训练模型:CLIP(2)
    5.2.3 多模态图像搜索引擎本项目是一个基于CLIP(ContrastiveLanguage-ImagePre-training)大模型的图像搜索引擎,针对孟加拉语文本描述进行图像检索。它包括了训练CLIP模型、准备数据集、构建图像搜索Web应用程序等功能,用户可以通过输入文本描述来搜索与描述相匹配......
  • 用ComfyUI打造一键换装神器,轻松搭建本地工作流!
    前言最近快手推出了一个一键换装的模型,还原度还挺高的,效果也很不错,于是自己上手用ComfyUI也搭建了一套这样的工作流,练练手,搭建出来之后发现效果也还挺不错的,分享给大家:我们先来看看快手实际演示的效果:通过上传一张模特图,然后选择一个想要替换的服装;就可以将服装替换到模......
  • AI 画图真刺激,手把手教你如何用 ComfyUI 来画出刺激的图!
    前言目前AI绘画领域的产品非常多,比如Midjourney、Dalle3、StabilityAI等等,这些产品大体上可以分为两类:模型与产品深度融合:比如Midjourney、Dalle3等等。模型与产品分离:比如SDWebUI、ComfyUI等等。对于绝大多数普通用户而言,学习成本低、功能一体化的融合产......
  • 安裝ComfyUI-Docker & 下載Model & Krita電繪軟件 & krita-ai-diffusion電繪插件 & AU
    1.0安裝ComfyUI-Dockergitclonehttps://github.com/YanWenKun/ComfyUI-Docker下載ComfyUI-Docker。sudochmod-R777*設置ComfyUI-Docker最高讀寫權限。dockerrmcomfyuidockerpullyanwk/comfyui-boot:latest下載Docker鏡像。mkdir./Comfy......
  • 使用ComfyUI生成古诗绘本:Kolors模型的力量
    前言使用ComfyUI生成古诗绘本:Kolors模型的力量在数字时代,利用人工智能生成内容已经成为一种趋势。尤其是在创意领域,AI工具的应用正在逐步改变我们创作的方式。今天,我们将探讨如何使用ComfyUI工作流和Kolors模型,基于古诗生成一个美丽的绘本。所有的AI设计工具,模型和插件,......