首页 > 其他分享 >stable diffusion 入门教程

stable diffusion 入门教程

时间:2024-07-30 11:51:57浏览次数:9  
标签:diffusion controlnet 提示 入门教程 1girl cat stable quality 图片

sd基础

工作原理&入门


输入提示词后 有文本编码器将提示词编译成特征向量vae编码器将特征向量传入潜空间内,特征向量在潜空间内不断降噪,最后通过vae解码器将降噪之后的特征向量 解码成一个个像素组成的图片

一般选中默认vae模型

解码编码的模型


CLIP值越大,提前停止的越快,我们提示词被数字化的层数越少,提示词的相关性越小。反之越小越能丰富提示词
CLIP终止层数一般为2

其他功能

1.Hires.fix 高清修复
2.Refiner 当渲染到80% 切换另一个模型渲染
3.CFG 一般为5-10 越小ai越自由,越高越靠近提示词
4.随机种子 提示词一样,随机种子一样则可以在不同电脑生成相同图片
5.迭代步数越高 20-30 图片质量越高,步数过高则失真,且消耗更多时间,有时候还没有效果

ADetailer 修复人物的脸
采样方法 DPM++2M

网站,模型推荐

liblib NovelAI hugingface promlib civitai github
majicmix dreamshaper primemix architectrealmix

提示词 语法

英文和英文的标题符号
权重
数字越高权重越高,画面着重描述什么

[cat]=(cat:0.9)
(cat)=(cat:1.1)
{cat}=(cat:1.05)
[[cat]]=(cat:0.9x0.9)=(cat:0.81)
((cat))=(cat:1.1x1.1)=(cat:1.21)
ctrl + 上箭头 可以快捷调节  权重多低都行,过高则不行,会失真

短句与长句

一个一个词的拼写,而不是一句话呢
一个个词组会更准确,而且好调整权重
提示词控制在75个以内,正反向一样,不超过75

起手式

正向 4k masterpiece 会让图片更加精美
反向则用 text blur之类
有修饰词 

提示词顺序,越靠前权重越高

no.1 画质词/画风词
no.2 主题 one girl
no.3 环境/场景/构图
no.4 lora

提示词污染
1girl,blue dress,pink hair,green umbrella,
1girl,blue dress,red hair,puple umbrella,

防止提示词尤其是颜色相互渗透 使用break隔开

提示词融合

1girl,cat  猫在女孩身上
1girl And cat 猫娘 (1girl_cat 有同样效果)
[cat|dog] 也有融合效果
{forest:1girl:0.3} 在30%的时候结束画forest
{forest:1girl:0.7} 在70%的时候结束画forest

图生图&高清修复

通过图片加提示词生成结果


使用预设起手式,并添加进提示词


通过插件来快速选择自己想要的提示词

masterpiece,best quality,1girl,police,glamor,in summer,street,

将参考图拖入图生图并增加提示词
masterpiece,best quality,1girl,police,glamor,in summer,street,coat,
增加提示词coat,通过原图再次生图

图生图重绘幅度,不过高也不过低 0.3-0.5结果图与参考图之间差距不会太大
                            0.5-0.7赋予ai更多想象空间
                            低于0.3 或大于 0.7则扭曲变形

局部重绘,增加sunglasses提示词


upscale 二次元

GAN 4X Anime6B 适合动漫放大 (Gan生成式对抗网络简称)
重绘幅度 0.3-0.5安全区间 0.5-0.7ai自由领域
放大倍数x2 512 变为1024

文生图界面


文生图界面的放大需要锁定种子


再次点击小图标来到图生图,再次放大


无需锁定种子

再次放大 模型放大


从512缩放到1024

controlnet

风格转换 softedge

最开始能通过线条处理还原参考图的只有canny
canny 硬边缘 canny将参考图通过细线勾勒出来 架构基于相邻像素计算差值,死板,图片会出现莫名奇妙的元素

softedge 全能模型 将主体勾勒

开启插件controlnet

pidinet 与 hed
hed 保留图片更多细节,完整性好 建筑,场景
pidinet 能够更好保留主体,忽视细节 人物


使用真实系的模型,将二次元图片好好描述

线稿上色 Lineart

lineart多用于线稿上色动漫类图像处理
mj 生成线稿


点击爆炸按钮后,会有去下载插件,如控制台显示git网络失败,手动去下载到相应目录解压


最好宽高比 和原来图片一样 也就是宽度和高度

controlnet-2

openpose 姿态管理


姿态成功控制


dw_openpose_full效果最好
根据参考图图片高宽一致

depth [空间关系]

场景 比如教堂
softedge + depth
控制线条分布 + 深度

depth

预处理用了hedsafe
softedge
负面提示词这里因为是建筑,所以去除finger有关

可以通过提示词来改变教堂颜色

人物
softedge openpose depth ipadapter
线条分布 绑定骨骼 空间关系 面部特征迁移/风格一致性

tile

参考图模糊,再分区块重采样 结果图细节更丰富

可以将图片拖入controlnet的单张图片,再次tile。可以看到叶子的纹路

controlnet Ipadapter

ipadapter 可以去hugingface里下载,根据后缀放在指定目录
换脸
材质迁移
风格迁移

换脸


生成一张图片,为参考图


将参考图拖进ipadapter

写实换脸,上传了自己的图片

材质迁移

ipdapter

softedge

depth

midas也不错

材质很重要,如果用下图材质则使用crystal materials

Ipadapter-1

风格迁移

选择综合性强的大模型 dreamshaper

生成参考图


风格转换 style transfer


点击生成,


生成成功后,高清放大


直接更换风格
甚至可以根据动漫角色的画风,直接变换

ipadapter与openpose综合运用

controlnet unit1 ipadapter

生成骨骼图

controlnet unit2 openpose

写提示词增加lora

要和骨骼图一样比例


有lora则更靠近赫敏的图片

综合案例使用

室内设计
大模型选择 Architecturerealmix

unit 1 mlsd处理完只包含直线

unit 2

生成毛坯房
Unfinished, nothing, no furniture, rough, house interior

精装修
ModernRoomDesign,Interior design,modern simplicity,green,(masterpiece),(high quality),best quality,real,(realistic),super detailed,(full detail),(4k),modern,fashion,grand,vista,(high floor:1.2),


去到图生图


改变关键词然后图生图

如果成品出来还想改变,继续图生图
如果想要壁纸变成自己图片的风格,通过勾选上传独立的控制图像
使用ipadapter,进行渲染
如果没有空间深度则继续使用depth

stable diffusion基础[liblib]

正向提示词

人物特征
1girl,solo,
suspender dress,headdress,delicate eyes,beautiful face,shallow smile,snow-white skin,elegant standing,
场景特点
outdoor,blue sky,white clouds,flowers,grass,
场景设定 [天气与光线与白天和黑夜]
day,night sunset,rain shrong rim light
movie light,light tracking,
场景形容词
beautifful ,happy
生图标准 [画质与风格]
8k,highest quality,high resolution
Comic Watercolor Realistic Abstract

1girl,solo,
suspender dress,headdress,delicate eyes,beautiful face,shallow smile,snow-white skin,elegant standing,
outdoor,blue sky,white clouds,flowers,grass,
movie light,light tracking,
beautiful,happy,
8k,highest quality,high resolution,
realistic,extreme detail

负向

low quality,blurry,bad proportions,cropped,watermark
ugly,bad body,missing fingers,extra feet
NSFW text logo

参数

eular a画笔选择,根据推荐来,其实都差不多
步数15-25,过高也不会有用

comfyui尝试

sd 挂lora+汉化工作流
图片有元数据
可以通过拉取图片来获得工作流

comfyui 大部分问题可以通过离线安装的方式解决 google可以解决。每当报错
通过日志去查看,工作流报红,缺模型就安装模型,缺插件安装插件,缺什么装什么

标签:diffusion,controlnet,提示,入门教程,1girl,cat,stable,quality,图片
From: https://www.cnblogs.com/supermao12/p/18332053

相关文章

  • Stable Diffusion 提示词攻略
    一、提示词作用提示词所做的工作是缩小模型出图的解空间,即缩小生成内容时在模型数据里的检索范围,而非直接指定作画结果。提示词的效果也受模型的影响,有些模型对自然语言做特化训练,有些模型对单词标签对做特化训练,那么对不同的提示词语言风格的反应就不同。二、提示词内容......
  • 网络安全入门教程(非常详细)从零基础入门到精通,看完这一篇就够了。
    学前感言:1.这是一条坚持的道路,三分钟的热情可以放弃往下看了.2.多练多想,不要离开了教程什么都不会了.最好看完教程自己独立完成技术方面的开发.3.有时多google,baidu,我们往往都遇不到好心的大神,谁会无聊天天给你做解答.4.遇到实在搞不懂的,可以先放放,以后再来解决.基......
  • mitk-diffusion
    DWIDenoisingThisviewprovidesseveralmethodstodenoisediffusion-weightedimages.Simplyselecttheimagetodenoiseandpressthestartbutton.Thedefaultparametersshouldworkrelativelywell.TheNLMmethodisbyfartheslowest。该视图提供了几种对......
  • 使用“stable_baselines3”时如何重置“gymnasium”环境?
    我想为我的体育馆环境播种。从官方文档来看,我的做法是-importgymnasiumasgymenv=gym.make("LunarLander-v2",render_mode="human")observation,info=env.reset(seed=42)但是,stable_baselines3似乎不需要从用户端重置,如下面的程序所示-importgymnasi......
  • 软路由新手入门教程(从概念-选型-接线-安装)
    1、软路由、硬路由概念介绍硬路由通俗介绍:目前我们上网使用的路由器就是“硬”路由,他是厂商提供了一套完整的定制的软件+硬件的解决方案,包含刷好的系统(固件)、电源、路由器机器。常见的路由器有:华为、小米、TP-LINK。如下图。 软路由官方介绍:软路由是指利用台式机或服务......
  • 昇思25天学习打卡营第24天|生成式-Diffusion扩散模型
    打卡目录打卡理解扩散模型环境设置DiffusionModel简介扩散模型实现原理Diffusion前向过程Diffusion逆向过程训练算法总结U-Net神经网络预测噪声构建Diffusion模型准备函数和类位置向量ResNet/ConvNeXT块Attention模块组归一化条件U-Net正向扩散(core)......
  • stable diffusion中的UNet2DConditionModel代码解读
    UNet2DConditionModel总体结构图片来自于https://zhuanlan.zhihu.com/p/635204519stablediffusion运行unet部分的代码。noise_pred=self.unet(sample=latent_model_input,#(2,4,64,64)生成的latenttimestep=t,#时刻tencoder_hidden_states=pro......
  • Stable Diffusion 改变光线的能力简直太强大了!
    在没有StableDiffusion的年代,对照片的光线进行后期处理,基本要依靠Photoshop。比如添加一个曝光图层。这个技术对于形状简单的物体来说很方便,因为光线效果很好模拟。但对于形状复杂的主体,比如人来说,要想实现自然的光线效果,你最好得有美术功底,并配备一个数位板。Stable......
  • 万字长文,带你从0-1入门Stable Diffusion
    一、本地部署StableDiffusion前言目前市面上比较权威,并能用于工作中的AI绘画软件其实就两款。一个叫Midjourney(简称MJ),另一个叫Stable-Diffusion(简称SD)。MJ需要付费使用,而SD开源免费,但是上手难度和学习成本略大,并且非常吃电脑配置(显卡、内存)。和Midjourney相比,StableD......
  • Diffusion|DDPM 理解、数学、代码
    Diffusion论文:DenoisingDiffusionProbabilisticModels参考博客openinnewwindow;参考paddle版本代码:aistudio实践链接openinnewwindow该文章主要对DDPM论文中的公式进行小白推导,并根据ppdiffuser进行DDPM探索。读者能够对论文中的大部分公式如何得来,用在了什么......