首页 > 其他分享 >Stable Diffusion在各种显卡上的加速方式测试,最高可以提速211.2%

Stable Diffusion在各种显卡上的加速方式测试,最高可以提速211.2%

时间:2023-07-23 09:55:54浏览次数:53  
标签:Diffusion Xformers Stable 显卡 加速 211.2%

Stable Diffusion是一种基于扩散模型的图像生成技术,能够从文本生成高质量的图像,适用于CG,插图和高分辨率壁纸等领域。

但是它计算过程复杂,使得它的生成速度较慢。所以研究人员就创造了各种提高其速度的方式,比如Xformers、Aitemplate、TensorRT和onflow。在本文中我们将对这些加速方法进行了一系列对比测试。

在本文中,我们将介绍这些加速方法的原理和性能测试结果,并提供对不同显卡的成本效益总结,我们的目标时在并在2秒内生成高质量的图像。

通过我们的试验与RTX 3090上的Xformers相比,OneFlow实现了211.2%的加速,在RTX 4090上实现了205.6%的加速。所以一个高配的GPU还是很必要的。

加速方案原理及特性

以下表格整理了目前能够看到的加速方案

本文使用Xformers, Aitemplate, TensorRT和onflow进行测试。因为NvFuser在原理上与Xformers相似,都使用了FlashAttention技术。DeepSpeed和colossalAI主要是为训练加速而设计的,而OpenAI Triton则是一个模型部署引擎,适用于批大小的加速,但不适用于优化延迟场景,所以这些都包含在本文中。

 

https://avoid.overfit.cn/post/4d41ab2ecdce462786892e315dc49ecc

标签:Diffusion,Xformers,Stable,显卡,加速,211.2%
From: https://www.cnblogs.com/deephub/p/17574705.html

相关文章

  • 使用Stable Diffusion制作AI数字人视频的简明教程
    基本方法搞一张照片,搞一段语音,合成照片和语音,同时让照片中的人物动起来,特别是头、眼睛和嘴。语音合成语音合成的方法很多,也比较成熟了,大家可以选择自己方便的,直接录音也可以,只要能生成一个语音文件就行了。这里分享一个文字转语音的工具:https://ttsmaker.cn/,不用注册不用花钱......
  • 由浅入深:Stable-Diffusion 原理解析01 —— 基本概念的介绍
    由浅入深:Stable-Diffusion原理解析01——基本概念的介绍由于实习工作需要,最近一段时间的学习,自己也对Stable-Diffusion有了一些基础的理解,在学习和阅读论文的过程中,发现信息比较碎片化,于是决定产出一个SD原理的系列解析。本系列相比于本人之前的代码阅读系列没那么“硬核......
  • 在英特尔 CPU 上微调 Stable Diffusion 模型
    扩散模型能够根据文本提示生成逼真的图像,这种能力促进了生成式人工智能的普及。人们已经开始把这些模型用在包括数据合成及内容创建在内的多个应用领域。HuggingFaceHub包含超过5千个预训练的文生图模型。这些模型与Diffusers库结合使用,使得构建图像生成工作流或者对不......
  • Stable-Diffusion-webUI 代码阅读02 —— 按钮?按一下!
    Stable-Diffusion-webUI代码阅读02——按钮?按一下!由于实习工作需要,决定用几天时间阅读一遍stable-diffusion-webui的代码。本文参考知乎专栏,并且添加了一些自己的理解,感谢大佬!知乎专栏:自动做游戏:AI技术落地于游戏开发-知乎(zhihu.com)最近工作主要侧重于OneFlow框架应用......
  • zoj 1576 Marriage is Stable
    稳定婚姻问题对于稳定婚姻问题,必然存在一个解,所以此题不用考虑无解的情况。用Gale-Shapley+map可以直接搞定。注意:男女名字可能相同。Gale-Shapley算法详解:http://wenku.baidu.com/view/2b5a4c7a1711cc7931b7164a.html #include<iostream>#include<cstdio>#include<map>usin......
  • AIGC 之 Stable Diffusion 生成的带文字图片示例
    文字文字为HOTAIGC网址导航效果图片1图片2图片3图片4图片5图片6图片7图片8大家觉得效果如何,要是大家感兴趣下篇分享生成原理及参数。......
  • 简单了解下最近正火的SwissTable
    去年看到字节跳动给golang提了issue建议把map的底层实现改成SwissTable的时候,我就有想写这篇博客了,不过因为种种原因一直拖着。直到最近遇golang官方开始讨论为了是否要接受SwissTable作为map的默认实现,以及实际遇到了一个hashtable有关的问题,促使我重新思考了常见的hashtable算......
  • Stable-Diffusion-webUI 代码阅读01 —— 从启动开始
    Stable-Diffusion-webUI代码阅读01——从启动开始由于实习工作需要,决定用几天时间阅读一遍stable-diffusion-webui的代码。本文参考知乎专栏,并且做出了一定程度上的改进,感谢大佬!知乎专栏:自动做游戏:AI技术落地于游戏开发-知乎(zhihu.com)最近工作主要侧重于OneFlow框架应......
  • Stable Diffusion修复老照片-图生图
    修复老照片的意义就不多说了,相信大家都明白,这里直接开讲方法。1、原理这个方法需要一个真实模型,以便让修复的照片看起来比较真实,我这里选择:realisticVisionV20,大家有更好的给我推荐哦。还需用搭配两个特殊设置:ControlNetTile:这是一个ControlNet模型,用于放大和补充细节。在......
  • AI绘画StableDiffusion实操教程:冰霜旗袍美女
    飞书原文链接,获取更多资源:AI绘画StableDiffusion实操教程:冰霜旗袍美女前几天分享了StableDiffusion的入门到精通教程:AI绘画:StableDiffusion终极炼丹宝典:从入门到精通但是还有人就问:安装是安装好了,可是为什么生成的图片和你生成的图片差距那么远呢?怎么真实感和质感一个天一个......