首页 > 其他分享 >Stable Diffusion【进阶篇】:真人漫改之IP-Adapter实现

Stable Diffusion【进阶篇】:真人漫改之IP-Adapter实现

时间:2024-07-18 13:58:51浏览次数:13  
标签:Diffusion IP Adapter AIGC 控制权 0.5 模型

大家好,今天我分享真人漫改实现方式:借助ControlNet的IP-Adapter控制模型,IP-Adapter控制模型是由腾讯研究院出品的一个新的ControlNet模型,关于该模型可以理解为图片提示词,类似于MD垫图的效果,但是比tagger标签器提取出图片的元素构成效果更好。它不仅参考图片的风格、光影特效等,还参考图像上的物体,特别是一些通过提示词很难描述的物体。关于IP-Adapter控制模型有很多各种不同的玩法,后面会详细介绍。今天我们重点分享一下如何实现真人漫改效果。

文章使用的AI工具SD整合包、各种模型插件、提示词、AI人工智能学习资料都已经打包好放在网盘中了,无需自行查找,有需要的小伙伴下方扫码自行获取。

在这里插入图片描述

ControlNet中的IP Adapter控制相对较新,需要把ControlNet的模型更新到1.1.400以上的版本才可以。也可以在huggingface网站上面进行下载放到ControlNet对应的目录下面。

下载地址:https://huggingface.co/lllyasviel/sd_control_collection/tree/main

下面我们看一下具体的实现方式。

【第一步】:ControlNet的参数设置

相关参数设置如下:

  • 控制类型:选择"IP-Adapter"

  • 预处理器:ip-adapter_clip_sd15

  • 模型:ip-adapter_sd15_plus(最大程度的还原原参考图,建议选择该模型)

  • 控制权重:有些大模型与IP-Adapter 控制模型搭配使用可能生成的图片会崩坏,可以适当调整IP-Adapter 控制权重(0.5-1之间),大家需要根据所选择的不同大模型,自己多尝试。

【第二步】提示词的编写

这里提示词的编写相对来说比较简单,我们只需要在通用的图片质量提示词基础上,添加一个美女的提示词即可。

正向提示词:(best quality), ((masterpiece)), (highres), original, extremely detailed 8K wallpaper, (an extremely delicate and beautiful)

a super beautiful girl,

文生图相关参数设置

  • 采样器:DPM++2M Karras

  • 采样迭代步数:30

  • 图片宽高:保持和上传图片的宽高一致即可。

【第三步】大模型的选择以及图片的生成

真人漫改需要生成二次元的图片,所以大模型需要选择二次元的大模型。

这里我们选择不同的二次元大模型来看一下效果。

原图

大模型:Anything V5 Prt-RE (控制权重:0.5)

大模型:Counterfeit V3.0 (控制权重:0.5)

大模型:Cetus-Mix Coda2 (控制权重:0.5)

大模型:MeinaUnreal V3 (控制权重:0.5)

相关说明:

(1)在本文中,为了尽可能的保持真人漫改的图片与原图片背景一致,IP Adapter控制模型使用的是ip-adapter_sd15_plus,并且控制权重我们设置为0.5,出图效果经过测试都比较好。

我们将控制权重设置为默认值1,很多时候生成的图片效果就不太好了,特别是衣服袖子都太卷了。

大模型:Counterfeit V3.0 (控制权重:1)

大模型:Cetus-Mix Coda2 (控制权重:1)

大模型:MeinaUnreal V3 (控制权重:1)

(2)IP Adapter控制模型出图效果可以和原图片背景保持大体一致(和线稿模型出图的效果一样),也可以实现不像线稿模型出图那么死板,它可以只参考人脸和发型,任意更改背景,灵活控制不同角度的动作。

如果只参考人脸和发型出图,IP Adapter控制模型可以只选择ip-adapter-plus-face_sd15模型。

我们看一下不同大模型下的图片生成效果。

大模型:Anything V5 Prt-RE (控制权重:0.5)

大模型:Counterfeit V3.0 (控制权重:0.5)

大模型:Cetus-Mix Coda2 (控制权重:0.5)

大模型:MeinaUnreal V3 (控制权重:0.5)

从上面生成的图片可以看出,只选择ip-adapter-plus-face_sd15模型,可以在保持人脸和发型的基础上,可以灵活地改变人物背景元素以及服装等。

好了,今天的分享就到这里了,希望今天分享的内容对大家有所帮助。

写在最后

AIGC技术的未来发展前景广阔,随着人工智能技术的不断发展,AIGC技术也将不断提高。未来,AIGC技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,AIGC技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,AIGC技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。

感兴趣的小伙伴,赠送全套AIGC学习资料和安装工具,包含AI绘画、AI人工智能等前沿科技教程,模型插件,具体看下方。

一、AIGC所有方向的学习路线

AIGC所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

在这里插入图片描述

二、AIGC必备工具

工具都帮大家整理好了,安装就可直接上手!
在这里插入图片描述

三、最新AIGC学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
在这里插入图片描述
在这里插入图片描述

四、AIGC视频教程合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

若有侵权,请联系删除

标签:Diffusion,IP,Adapter,AIGC,控制权,0.5,模型
From: https://blog.csdn.net/AA1213888/article/details/140517524

相关文章

  • Stable Diffusion ControlNet垫图:IP-Adapter实现图片风格迁移
    IP-Adapter实现的SD垫图功能对我们的图片处理非常有用,后面我们会进行一系列IP-Adapter的应用分享,通过具体的实例真正看到IP-Adapter的强大。文章使用的AI工具SD整合包、各种模型插件、提示词、AI人工智能学习资料都已经打包好放在网盘中了,无需自行查找,有需要的小伙伴下方扫......
  • Stable Diffusion|IP-Adapter 图片风格迁移
    文末扫码可获取IP-Adapter插件!前段时间腾讯发布了一个新的ControlNet模型叫“IP-Adapter”,它的作用就是把上传的图像转化为图像提示词,简单的来说就是跟Midjourney的垫图功能差不多。IP-Adapter能够精准地识别参考图的风格特征,并且可以很好的适配其他的模型以及ControlNet......
  • 安卓MT管理器v2.16.2/逆向修改神器 本地VIP已解锁
    MT管理器是一款强大的文件管理工具和APK逆向修改神器。如果你喜欢它的双窗口操作风格,可以单纯地把它当成文件管理器使用。如果你对修改APK有深厚的兴趣,那么你可以用它做许许多多的事,例如汉化应用、替换资源、修改布局、修改逻辑代码、资源混淆、去除签名校验等,主要取决于你如......
  • Stable Diffusion——涂鸦幻变:稳态扩散下的艺术重生
    目录引言操作过程图片准备创建蒙版图生图优化设置参数细节调整总结引言在深入体验了StableDiffusion图生图的无限魅力之后,我们不禁为其强大的图像修复和细节丰富能力所折服。然而,在实际应用中,许多用户发现难以精准掌控最终效果的丰富度和细节层次,以达到心中理想......
  • iphone如何删除重复照片
    iPhone以其出色的拍摄性能和用户体验深受全球用户欢迎。随着我们使用iPhone记录生活的点点滴滴,不可避免地会在相册中积累大量照片。这其中不乏重复拍摄的照片,这些重复的照片不仅占用宝贵的存储空间,也让我们在查找特定照片时变得更加困难。因此,iphone如何删除重复照片困扰着广大......
  • COMP9021 Principles of Programming
    COMP9021PrinciplesofProgrammingTerm2,2024Assignment2Worth13marksanddueWeek11Monday@10amGeneralMatters1.1AimThepurposeofthisassignmentisto:Developyourproblem-solvingskills.Designandimplementthesolutiontoapr......
  • ubuntu 20.04 改变IPV4地址, 网卡名称 ens160
    1)查看网卡名称,使用:ifconfig或者iplink 2)进入netplan目录cat/etc/netplan3)编辑网络配置文件vim01-network-manager-all.yaml4)编辑内容如下 network:ethernets:ens160:dhcp4:noaddresses:-10.1.13.74/24gat......
  • sqlalchemy中relationship使用
    sqlalchemy是python做orm管理的非常重要的工具,sqlalchemy2.0版本relationship与上个版本有所不同,具体如下:fromsqlalchemyimportcreate_enginefromsqlalchemy.ormimportsessionmakerfromsqlalchemy.ormimportdeclarative_baseSQLALCHEMY_DATABASE_URL='你的数据库......
  • 设计模式-领域逻辑模式-事务脚本(Transaction Script)
    事务脚本的特点多数应用可看成由多个事务组成事务脚本将多个业务逻辑组织成单个过程事务间相互修改各自产生的数据事务脚本的运行机制    使用事务脚本时,领域逻辑主要通过系统所执行的事务来组织。例如:预定酒店过程。事务脚本的组织将整个事务脚本放在一个类里每......
  • Nginx 获取/传递真实IP、追踪请求包转发链 及 防范源IP伪造
    (转载)获取/传递真实IP环境模拟:客户端-->Nginx1/CDN/DDOS高防-->Nginx2-->后端ServerrequestHeader部分请求头字段:X-Real-IP用来保存客户端真实IP,默认为空X-Forwarded-For用来保存请求包的转发地址链,默认为空对应变量:$remote_addr此变量保存的是http请求的发起方IP,......