首页 > 其他分享 >ComfyUI插件:ComfyUI-BrushNet节点

ComfyUI插件:ComfyUI-BrushNet节点

时间:2024-08-05 12:06:18浏览次数:11  
标签:BrushNet 插件 修复 ComfyUI 模型 图像处理 图像 节点

前言:

学习ComfyUI是一场持久战,而ComfyUI-BrushNet是最近的局部重绘节点,其包含BrushNet和Powerpaint两个主要节点,其中BrushNet有SD1.5和SDXL两个版本,PowerPaint只有1.5的模型可以使用,学会该插件,你可以完成对图片的局部重绘以及产品换背景等多个工作流。祝大家学习顺利,早日成为ComfyUI的高手!

目录

一、BrushNet Loader节点

二、BrushNet节点

三、Blend Inpaint节点

四、Cut For Inpaint节点

五、PowerPaint节点

一、BrushNet Loader节点

这一节点专注于加载BrushNet模型,以便在后续的图像处理工作流中使用。通过加载BrushNet模型,可以利用其强大的图像处理能力来执行各种细致的编辑和增强任务。

1

重要参数:

dtype → 这个参数设置模型的运行数据类型

注意:建议设置dtype为float32进行运行,假如这是为float16,那么当CUDA显存不足时会将一部分的数据放入CPU执行模型计算,但是CPU不支持float16精度的数据,会产生报错信息。

该节点目前有三种模型提供加载

第一种是PowerPaint模型:如图所示,使用PowerPaint模型时必须搭配1.5版的SD大模型,并加载PowerPaint所需的Clip模型。该模型的功能是去除图像中被蒙版覆盖的区域。

2

第二种是BrushNet模型,它使用了random_mask模型。在实验中,我使用的是SDXL大模型。下图展示了使用random_mask模型进行局部修复的效果。可以看出,最终修复后的图像并未严格按照蒙版的内容进行填充,例如,瓶子的尺寸明显小于蒙版。因此,该模型主要用于随机选择蒙版进行修复。

3

第三种是BrushNet使用的segmentation模型。从图中可以看出,最终生成的图像严格按照蒙版的区域进行绘制,瓶子的大小完全与蒙版相符。然而,在BrushNet的原论文中提到,segmentation模型在插值操作方面可能会引入潜在的不准确性,因为将蒙版调整大小以匹配潜在空间的操作可能会导致潜在的不准确性"。也就是说,当蒙版信息通过VAE编误差。4

使用场景:

· 图像编辑:利用BrushNet模型进行细致的图像编辑任务,如去噪、修复、增强等。

· 图像增强:通过BrushNet模型增强图像的细节和质量,改善视觉效果。

· 自动化处理:在自动化图像处理流程中,使用BrushNet模型实现高效、准确的图像处理。

通过使用BrushNet Loader节点,可以在图像处理工作流程中实现高效的BrushNet模型加载和应用,提升图像处理的精度和效果。

二、BrushNet节点

这一节点专注于使用BrushNet模型对图像进行各种处理,包括去噪、修复、增强等。通过配置和使用BrushNet模型,可以实现高质量的图像处理效果。

5

重要参数:

mask → 表示你要上传的蒙版 **如果蒙版和图像不对齐,结果可能会很差**

scale → 直译是尺度的意思,也就是控制大小的阈值,模型把原始数据编码后加入unet之前与scale相乘, 去控制模型的作用强度。

示例:下图所示为BrushNet批量重绘方式

6

示例:下图为BrushNet的基础重绘方式

7

使用场景:

· 图像去噪:使用BrushNet模型去除图像中的噪点,提高图像质量。

· 图像修复:通过BrushNet模型修复图像中的瑕疵和损坏区域。

· 图像增强:增强图像的细节和视觉效果,使图像更加清晰和吸引人。

· 自动化处理:在自动化图像处理流程中,使用BrushNet模型实现高效、准确的图像处理。

通过使用BrushNet节点,可以在图像处理工作流程中实现高效的BrushNet模型应用,提升图像处理的精度和效果。

三、Blend Inpaint节点

这一节点专注于图像的修复和填充。通过使用高级的图像修复算法,可以将缺失的图像部分进行填充,或将新的图像内容无缝地融合到现有图像中。

8

重要参数:

inpaint → 重绘后的局部图像

original → 原始图像

origin → 原图中裁剪后的数据

kernel → 设置粘贴图像的边缘融合度

sigma → 设置图像的透明度

使用场景:

图像修复:在图像处理中,修复损坏或缺失的图像部分。

图像填充:在需要将新的图像内容无缝融合到现有图像中的场景中使用。

自动化处理:在自动化图像处理流程中,通过图像修复和填充算法,实现高效的图像处理。

通过使用Blend Inpaint节点,可以在图像处理工作流程中实现高效的图像修复和填充,提升图像处理的精度和效果。

四、Cut For Inpaint节点

这一节点专注于准备图像数据,以便在后续的修复和填充任务中使用。通过切割和处理图像中的特定区域,可以生成需要修复或填充的图像部分及其相应的掩码。

9

重要参数:

image → 输入原始图像

mask → 输入重绘的蒙版区域

width → 设置裁剪宽度

height → 设置裁剪高度

示例:下图为Cut For Inpaint节点和Blend Inpaint节点的组合使用,主要是用在我们的原始图像很大,而我们要重绘的区域却又很小的情况,这种时候我们将对应的区域进行放大修复能够让模型更好的理解上下文,从而进行融合度更高的重绘。

10

使用场景:

· 图像修复准备:在图像处理中,准备需要修复或填充的图像部分,为后续处理节点提供合适的数据。

· 图像填充准备:在需要将新的图像内容无缝融合到现有图像中的场景中,准备需要填充的图像区域。

· 自动化处理:在自动化图像处理流程中,通过切割和处理图像区域,实现高效的区域准备和优化。

通过使用Cut For Inpaint节点,可以在图像处理工作流程中实现高效的图像区域准备,为后续的修复和填充任务提供合适的输入数据,从而提升图像处理的精度和效果,满足各种复杂图像处理需求。

五、PowerPaint节点

这一节点专注于复杂的图像修复和增强任务,通过使用先进的图像处理算法,实现高质量的图像编辑。

11

重要参数:

clip → PowerPaint有对应的CLIP模型

fitting → PowerPaint贴合度

function → PowerPaint功能

在function的功能中一共有五个选项,分别是text guided,shape guided,object removal,context aware和image outpainting,分别对应的功能为“使用文本作为引导”,“使用形状作为引导”,“物体移除”,“上下文感知”和“图像的扩充”。

示例:下图所示工作流为对原始图像进行扩充,选择image outpainting选项,在扩充前需要对图像进行pad操作。

12

使用场景:

· 图像修复:在图像处理中,修复损坏或缺失的图像部分。

· 图像增强:通过增强图像的细节和视觉效果,使图像更加清晰和吸引人。

· 图像填充:在需要将新的图像内容无缝融合到现有图像中的场景中使用。

· 自动化处理:在自动化图像处理流程中,通过图像修复和增强算法,实现高效的图像处理。

PowerPaint 节点是一个强大的图像编辑工具,专门用于复杂的图像修复和增强任务。这个节点的设计目的是通过提供高级的图像处理算法和灵活的配置选项,进行高精度的图像编辑。

**孜孜以求,方能超越自我。坚持不懈,乃是成功关键。**

标签:BrushNet,插件,修复,ComfyUI,模型,图像处理,图像,节点
From: https://www.cnblogs.com/LIU-QiuXue/p/18342957

相关文章

  • vue-seamless-scroll插件点击事件不生效
    vue-seamless-scroll点击事件不生效问题:在使用此插件时发现,列表内容前几行还是能正常点击的,但是从第二次出现的列表开始就没有点击事件了原因:因为html元素是复制出来的(滚动组件是将后面的复制出来一份,进行填铺页面,方便滚动)解决:往滚动组件的父节点上添加绑定事件(js冒泡机制),通过......
  • 破解PyCharm插件更新难题:让IDE焕发新生
    破解PyCharm插件更新难题:让IDE焕发新生PyCharm作为业界领先的集成开发环境(IDE),其丰富的插件生态是其强大功能的重要来源。然而,插件无法更新的问题可能会困扰许多用户,影响开发体验。本文将详细介绍如何在PyCharm中解决插件无法更新的问题,包括诊断问题、检查设置、清理缓存和......
  • [UnrealCircle]腾讯 罗谦 | UnLua-UE4下的Lua脚本插件
    传送门:[UnrealCircle]腾讯罗谦|UnLua-UE4下的Lua脚本插件_哔哩哔哩_bilibili参考PPT:UnrealCircle921北京PPT_免费高速下载|百度网盘-分享无限制一.UnLua基础1.1概念UnLua是一个脚本插件UnLua不是蓝图的替代,而是一种补充没有Asset预览不支持nativization......
  • Typecho页面浏览次数统计插件已修正适配Typecho 1.2
    沧海桑田,时隔多年Typecho终于迎来了重大更新(竟然在有生之年更新了(狗头保命))。Typecho刚发布的时候还是PHP5流行的时代,本身升级了更高语言版本,带来了更好的程序执行效率,提高了编程效率,但升级后存在发现“页面浏览次数统计插件”插件不能使用了。问题回顾我一直用的是作者(H......
  • 浏览器插件监听元素变动-用于直播自动回复
    直播获取评论区的原理MutationObserver是一个强大的浏览器API,它可以监听DOM的变化,包括元素的添加、删除、属性的更改等。开发需求可联系vx:llike620步骤:创建一个MutationObserver实例,并提供一个回调函数。使用observe方法指定要监控的DOM节点和具体的变动类型。在回调函数......
  • ComfyUI插件:ComfyUI layer style 节点(四)
    前言:学习ComfyUI是一场持久战,而ComfyUIlayerstyle是一组专为图片设计制作且集成了Photoshop功能的强大节点。该节点几乎将PhotoShop的全部功能迁移到ComfyUI,诸如提供仿照AdobePhotoshop的图层样式、提供调整颜色功能(亮度、饱和度、对比度等)、提供Mask辅助工具、提供图层合成......
  • 直播自动回复浏览器插件开发-抖音直播自动回复插件-抖音小店飞鸽客服自动回复插件(简单
    抖音直播自动回复插件抖音小店飞鸽客服自动回复插件演示网站:https://gofly.sopans.com/douyin.html开发浏览器插件是一个相对复杂的过程,涉及到前端开发、浏览器API的使用以及插件的架构设计。以下是开发浏览器插件的一般步骤:了解浏览器插件基础:学习浏览器插件的基本概念,包......
  • 【Obsidian插件】(2)Zotero Integration插件设置界面介绍
    ZoteroIntegration插件可以将Zotero(文献管理软件)与Obsidian(笔记软件)整合起来,通过引用文献或导入注释等操作,以提高文献阅读和笔记记录的效率。本文主要介绍该插件的设置界面:目录1一般设置(GeneralSettings)1.1PDFUtility1.2自定义PDFUtility路径1.3数据库1.4笔......
  • 推荐 7 个 VS Code 插件,让 Coding 更加丝滑
    VisualStudioCode(VSCode)凭借其强大的功能和可扩展性,已经成为许多开发者的首选代码编辑器。为了进一步提升编程体验,VSCode提供了丰富的插件生态系统,这些插件能够极大地提升开发效率和代码质量。本文将推荐7个必备的VSCode插件,让你的coding体验更加丝滑。1. Python......
  • 最火的十大 Edge插件:安装指南、功能介绍及使用技巧
    最火的十大MicrosoftEdge插件:安装指南、功能介绍及使用技巧随着网络浏览需求的不断增加,浏览器插件变得越来越重要。MicrosoftEdge通过其丰富的插件生态系统,满足用户的多样化需求。本文将介绍十款在中国用户中最受欢迎的Edge插件,包括如何安装、使用及其主要功能和作用。这些......