首页 > 其他分享 >[Stable Diffusion]ip-adapter:SD也可以垫图了,一张图复刻lora效果

[Stable Diffusion]ip-adapter:SD也可以垫图了,一张图复刻lora效果

时间:2024-12-31 14:28:57浏览次数:7  
标签:Diffusion controlnet ip adapter webui 模型 复刻 SD

前言:

在人工智能绘画的领域中,Stable Diffusion 一直是创作者们的得力工具。如今,随着 ip-adapter 的出现,SD 迎来了新的突破——可以像传统绘图软件一样垫图了。这一创新功能不仅为创作者提供了更多的创意可能性,更能以一张图复刻 lora 效果,极大地提升了绘画的效率和质量,让我们一同深入探索这一令人兴奋的新特性。

ip-adapter是什么?

ip-adapter是腾讯Ai工作室发布的一个controlnet模型,可以通过stable
diffusion的webui使用,这个新的功能简单来说,他可以识别参考图的艺术风格和内容,然后生成相似的作品,并且还可以搭配其他控制器使用。可以说SD已经学会临摹大师的绘画并且运用到自己的作品上了。
在这里插入图片描述

腾讯ai实验室 论文资料:https://ip-adapter.github.io/

IP-adapter的github地址(文末可自行扫描获取)

2.ip-adapter生成效果

官方对ip-adapter进行了测试,如下图,第一列是输入的图片参考,第二列是输入的其他控制参数。最后一列是使用ip-
adapter生成的效果,看测试效果能明显看出,ip-adapter的方法不仅在图像质量方面优于其他方法,而且生成的图像与参考图像更好地对齐。

ip-adapter使用SD1.5的模型效果明显优于SDXL模型的效果,不知道是不是由于官方训练时使用的基本都是SD1.5模型的原因。

在这里插入图片描述

3.ip-adapter如何使用?

首先,我们打开webui界面,在controlnet选择ip-
adapter,选择一张参考图,我上传了原神八重神子,然后,我们选择一个和参考图片风格类似的二次元大模型,调整预处理器和图片尺寸,最后点击生成按钮。
在这里插入图片描述

生成效果对比:

从生成图可以看到人物的形象,姿态复刻得很接近了。

在这里插入图片描述

在这里插入图片描述

再使用卡通头像作为试验:受大模型以及提示词影响,相识度略有下降。

4.如何在SD WEIUI 下载使用ip-adapter呢?

环境要求:

1.将本地的stable diffusion整合包(比如秋叶版本的)webui的版本更新到v1.6。
在这里插入图片描述

2.将controlnet更新到v1.1.4之后的版本。

在这里插入图片描述

controlnet模型安装:准备好环境之后,需要下载controlnet最新的ip-adapter模型, 放到stable-diffusion-
webui根目录\extensions\sd-webui-controlnet’models。
在这里插入图片描述

5.ip-adapter出现错误,如何解决?

检查webui版本是否是v1.6及以后的版本。

controlnet的ip-adapter模型是否安装并启用。

在这里插入图片描述

如果未安装,请使用上方的网盘链接进行下载。

3.检查webui根目录\extensions\sd-webui-controlnet\annotator\downl oads\clip_vision
目录里有没有这两个模型:【clip_g.pth】【clip_h.pth】

4.如果以上都不能解决问题,请更新一下pytorch版本。打开启动器,在“高级选项”-“环境维护”-选择至少torch2.0.0版本及以后的版本安装更新。

在这里插入图片描述

总结,在人物形象和画风复刻的2个层面上,ip-
adapter的效果可圈可点。优势就是不需要训练lora,能达到基本的一致性效果。在商业应用层面,可以精准捕捉客户对整体氛围的需求,快速生成AI效果图供客户选择。
这份完整版的SD整合包已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

提示词

Stable Diffusion 最强提示词手册

  • Stable Diffusion介绍
  • OpenArt介绍
  • 提示词(Prompt) 工程介绍

在这里插入图片描述

第一章、提示词格式

  • 提问引导
  • 示例
  • 单词的顺序

在这里插入图片描述

有需要的朋友,可以点击下方卡片免费领取!

第二章、修饰词(Modifiers)

  • Photography/摄影
  • Art Mediums/艺术媒介
  • Artists/艺术家
  • Illustration/插图
  • Emotions/情感
  • Aesthetics/美学

在这里插入图片描述

在这里插入图片描述

第三章、 Magic words(咒语)

  • Highly detailed/高细节
  • Professional/专业
  • Vivid Colors/鲜艳的颜色
  • Bokeh/背景虚化
  • Sketch vs Painting/素描 vs 绘画

在这里插入图片描述

第四章、Stable Diffusion参数

  • Resolution/分辨率
  • CFC/提词相关性
  • Step count/步数
  • Seed/种子
  • Sampler/采样
  • 反向提示词(Prompt)

在这里插入图片描述

第5章 img2img(图生图),in/outpainting(扩展/重绘)

  • 将草图转化为专业艺术作品
  • 风格转换
  • lmg2lmg 变体
  • Img2lmg+多个AI问题
  • lmg2lmg 低强度变体
  • 重绘
  • 扩展/裁剪

第6章 重要提示

  • 词语的顺序和词语本身一样重要
  • 不要忘记常规工具
  • 反向提示词(Prompt)

第7章 OpenArt展示

  • 提示词 (Prompt)

  • 案例展示

这份完整版的SD整合包已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

标签:Diffusion,controlnet,ip,adapter,webui,模型,复刻,SD
From: https://blog.csdn.net/m0_59236602/article/details/144848849

相关文章

  • 学AI绘画必知!StableDiffusion文生图与图生图的基本认知
    在AI绘画的学习与使用中,无论是入门小白还是进阶高手,都绕不开两个核心概念:文生图和图生图。这是所有AI绘画工具的根本操作方法。掌握这两者的基本原理,你便能轻松驾驭大多数AI工具,无论是MidJourney、StableDiffusion,还是其他图像生成平台。什么是文生图?简单来说,文生图就......
  • CHIP-qPCR引物设计
    一、CHIP-qPCR作用        CHIP-qPCR(染色质免疫共沉淀结合定量聚合酶链反应)是一种用于研究蛋白质与DNA相互作用的技术。它结合了染色质免疫共沉淀(ChIP)和定量聚合酶链反应(qPCR)两种方法,具有以下几个主要作用:分析蛋白质与DNA的相互作用:CHIP-qPCR可以用来检测特定蛋白质......
  • CloudflareSpeedTest优选IP
    #1.下载CloudflareSpeedTestCloudflareST_linux_amd64.tar.gz:https://url53.ctfile.com/f/62655553-1442843278-2c1830?p=7311(访问密码:7311)#2.下载generate_hosts.shgenerate_hosts.sh:https://url53.ctfile.com/f/62655553-1442843314-4dcbe5?p=7311(访问密码:731......
  • 随笔-处理器微架构-测量最大IPC
    目录固定cpu运行频率max_ipc_test.shLSD(LoopStreamDetector)arm固定cpu频率方式固定cpu运行频率我的测试环境cpu频率管理是intel_pstate:$lscpu|grep-ihzModelname:Intel(R)Core(TM)i5-10500CPU@3.10GHzCPUmaxMHz:......
  • Kubernetes iptables与IPVS 负载均衡模式对比
    Kubernetes可以使用iptables或IPVS作为其服务负载均衡模式。两者有各自的特点和适用场景。以下是对它们的比较和选择建议:1.iptables模式特点基于规则匹配:iptables是基于链表结构的包过滤和NAT实现方式。每个请求都会逐条匹配规则,直到找到匹配项。易用性:适合......
  • WinCC VBscript常用标准函数总结
    在WinCC软件中使用VBS进行编程的时候常常使用的标准函数整理如下:数值型函数:abs(num):返回绝对值sgn(num):num>01;num=00;num<0-1;判断数值正负hex(num):返回十六进制值直接表示:&Hxx最大8位oct(num):返回八进制值直接表示:&Oxx最大8位sqr(num):返回平方根num>......
  • 在js中importScripts方法有什么作用?
    importScripts()是WebWorkersAPI中的一个函数,它允许你在WebWorker中加载和执行外部的JavaScript文件。WebWorkers是一种能让你在浏览器中进行后台处理的技术,这样即使在进行大量计算时,也不会阻塞主线程,从而提高页面的响应性。importScripts()函数接受一个或多个URI......
  • ScriptCS安装报错
    最近在写C#,在使用Chocolatey安装ScriptCS(命令:chocoinstallscriptcs)的过程中,出现以下报错:ERROR:Theterm'Write-ChocolateyFailure'isnotrecognizedasthenameofacmdlet,function,scriptfile,oroperableprogram.Checkthespellingofthename,orifapath......
  • 你有在项目中使用过TypeScript吗?
    是的,我在前端开发项目中广泛使用过TypeScript。TypeScript是JavaScript的一个超集,添加了静态类型检查和基于类的面向对象编程等特性。这些特性使得开发大型、复杂的Web应用程序时,能够更容易地维护和扩展代码。以下是我使用TypeScript的一些经验和观点:类型安全:TypeScript通过静......
  • 慧集通iPaaS低代码平台培训-基础篇
    训练使用素材: 1.数据源:单号业务日期工厂仓库物料单位数量批次0100012022-5-1210031001030001kg500202304150100012022-5-1210031001030001kg122202304150100012022-5-1210031001030001kg1250202304150100012022-5-1210031001030002kg130202304110100012022-5-121003100103......