首页 > 其他分享 >Controlnet作者放出新的大招 IC-Light,可以操控图像生成时的光照,对内容主体重新打光生成符合新背景环境光照的图片

Controlnet作者放出新的大招 IC-Light,可以操控图像生成时的光照,对内容主体重新打光生成符合新背景环境光照的图片

时间:2024-05-24 21:24:54浏览次数:19  
标签:Controlnet iclight Light 模型 生成 sd15 Lighting 光照

IC-Light代表Impose Constant Light,是一个控制图像照明的项目。可以操控图像生成时的光照,对内容主体重新打光生成符合新背景环境光照的图片。这下商品图合成这种需要最大程度保持原有主体 ID 需求的最大的问题解决了。

目前,已经发布了两种类型的模型:

  • 文本条件重新光照模型。从原图分离主体之后通过提示词生成符合光照要求的背景同时主体除了光照之外和原主体一致。

  • 背景条件模型。给定背景图片和前景主体,会自动生成环境光,保证背景和前景的融合。

相关链接

Github链接:https://github.com/lllyasviel/IC-Light

Demo地址:https://huggingface.co/spaces/lllyasviel/IC-Light

生成效果

文本条件模型

Lighting Preference只是初始潜在值。 例如,如果照明首选项为“左”,则初始潜在值是左白右黑。

  • 提示:美丽的女人,细致的脸,温暖的气氛,在家,卧室

  • 照明偏好:左

  • Prompt: beautiful woman, detailed face, warm atmosphere, at home, bedroom

  • Lighting Preference: Left

  • Prompt: beautiful woman, detailed face, sunshine from window

  • Lighting Preference: Left

  • Prompt: beautiful woman, detailed face, light and shadow

  • Lighting Preference: Left

  • Prompt: (beautiful woman, detailed face, soft studio lighting)

背景条件模型

背景条件模型不需要仔细提示。只需使用“帅哥、电影灯光”等简单提示即可。

施加一致的光

在 HDR 空间中,照明具有所有光传输都是独立的属性。因此,不同光源的外观混合相当于混合光源的外观:

以上面的灯光舞台为例,“外观混合”和“光源混合”的两幅图像是一致的(理想情况下,HDR空间中的数学等效)。

我们在训练重光照模型时施加了这种一致性(在潜在空间中使用mlp)。因此,该模型能够产生高度一致的光照-如此一致,不同的光照甚至可以合并为法线贴图!尽管这些模型是潜在扩散的。

从左到右分别是输入、模型输出、重光照、分割阴影图像和合并法线贴图。请注意,该模型没有使用任何法线贴图数据进行训练。这种正常估计来自于重光照的一致性。 你可以使用这个按钮重现这个实验(它是4倍慢,因为它重照图像4次)

使用模型需注意的地方

  • iclight_sd15_fc.safetensors默认的重光照模型,以文本和前景为条件。你可以使用初始潜波来影响重亮。

  • iclight_sd15_fcon.safetensors与“iclight_sd15_fc”相同。“安全装置”,但经过了噪音补偿训练。注意,默认的“iclight_sd15_fc。在用户研究中,Safetensors的表现略优于该模型。这就是为什么默认模型是没有偏移噪声的模型。

  • iclight_sd15_fbc.safetensors -以文本、前景和背景为条件的重新照明模型。

标签:Controlnet,iclight,Light,模型,生成,sd15,Lighting,光照
From: https://blog.csdn.net/xs1997/article/details/139184912

相关文章

  • UES-08-迭代器和生成器
    循环问题在一般循环结构中,如果需要跟踪多个变量,情况将变得复杂,容易出错。迭代器用于迭代对象的对象,一般提供next()方法用于迭代对象中的元素,该方法返回两个变量,value表示返回的值,done表示是否还存在没有遍历的元素。functioncreate(items){vari=0;return{......
  • 利用Doxygen生成代码文档
    说明在vscode上使用doxygendocumentgenerate写好代码后,想要生成文档的话可以使用doxygen来进行生成下载Doxygendownload打开安装好后打开Doxywizard配置......
  • 二维码生成器,一个支持多文件在线转二维码的的工具,免费二维码生成器
    随着科技的飞速发展,二维码已成为我们生活中不可或缺的一部分。从支付到信息分享,再到活动报名,二维码以其独特的优势,为我们带来了极大的便利。在众多二维码生成器平台中,易易二维码凭借其丰富的功能和卓越的性能,逐渐崭露头角,成为众多用户的首选。本文将对易易二维码生成器平台工具的......
  • Postman 如何生成测试报告?
    1postman生成测试报告可以结合第三方插件newman来实现环境要求:1nodejs 官网下载  下载后使用cmd命令运行node-v npm-v如果查看到版本号说明安装成功2安装newman,命令我们用npminstallnewman-g  会自动安装好newman3newman装好之后我们还需安装一个......
  • mingw 编译生成的dll 如何在vs中使用
    1.mingw编译生成dll gcc-shared-olibtest.dll-Wl,--output-def,libtest.def,--out-implib,dlltest.a xxx.oxxx.o  有2个文件是我们需要的2.vs使用lib.exe将XXX.def文件(函数定义文件)生成为.lib导入库(1)打开VS工具-》命令行-》powershell(想自己去VS安装目录下找......
  • Python生成随机验证码
    importrandomfromPILimportImage,ImageDraw,ImageFont,ImageFilterdefcheck_code(width=120,height=30,char_length=5,font_file='Monaco.ttf',font_size=28):code=[]"""Image.new方法用于创建一个新的图像对象。mo......
  • JPA通过表反向生成相关类
    1.引入JPA依赖并下载JPABuddy插件 2.实体类生成,通过newJPAEntitiesfromDB实现(注意:需要有连接的数据库,并选择表)3.Repository生成,选择对应实体类生成即可然后就可以直接使用了,不过我最近项目使用的是springbootdatajdbc,后续文章我会记录一下datajdbc相关类的生成。......
  • VScode生成头文件的 #ifndef #define #endif方法
    在Vscode中,按快捷键Ctrl+Shift+P搜索snippets命令,选择“代码片段:配置用户代码片段”选择“新建全局代码片段文件”新建名称:addheader创建后会自动打开,将内容替换为以下代码:{ "CC++Header":{ "scope":"c,cpp", "prefix":"header", "description":"......
  • 截取第一个字用php生成一个头像
    在做商城时生成随机一个头像,找了一下发现用首个字符直接生成的类也不错,和用第三方外链的话还是有不同的,第三方虽然图片比较多,但是会有超时问题,所以用首字母生成方式本地搞,代码如下:点击查看代码1、方法调用测试letter_avatar("壹零柒")2、生成图片方法functionletter_avata......
  • 二维码生成器,连接物理与数字世界的桥梁
    在这个数字化时代,二维码作为信息传递的桥梁,已悄然渗透到我们生活的方方面面,从支付交易、信息查询到社交互动,无所不在。易易二维码生成器,正是这样一款集多功能于一体的在线工具,它不仅简化了从链接、图文到文件的转化过程,还融入了设计美学与数据分析功能,成为了企业和个人高效传播信......