首页 > 其他分享 >国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)

时间:2024-09-24 16:28:49浏览次数:3  
标签:视频 内测 AI 分镜 生成 寻光 图层


大家好,我是程序员X小鹿,前互联网大厂程序员,自由职业2年+,也一名 AIGC 爱好者,持续分享更多前沿的「AI 工具」和「AI副业玩法」,欢迎一起交流~

AI 现在已经可以一键创作剧本、生成分镜图了?

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI工具

今天介绍的这个一站式 AI 视频创作平台厉害了!

它可以自动将剧本拆分成分镜图,并转化成视频。还将多种视频编辑模式全部集合在了一个平台里!

视频编辑模式包含角色换脸、目标新增、目标消除、目标编辑、风格变换、超分辨率、帧率控制、图层拆解、图层融合。

是的,这个 AI 视频创作平台就是阿里达摩院的寻光。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AIGC_02

在 7 月结束的上海世界人工智能大会(WAIC)上,阿里达摩院发布了这个一站式 AI 视频创作平台 「寻光」。

当时提交了寻光的内测申请,前几天通过了,今天试用了,写一下内测体验。

一起来看看吧~

一、生成故事板

点「开始创作」-「AI 短片创作」:

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AIGC_03

这里需要填入剧本。不会写剧本怎么办?可以借助 Kimi 等 AI 工具,生成剧本。

下面用 Kimi 简单做个示范:

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AIGC_04

将生成好的剧本直接复制粘贴到下面方框中,随意取一个名字,比如就叫「深海巨怪」,然后点「生成故事板」。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_音视频_05

寻光会根据剧本,生成故事板,即:分镜描述 + 分镜画面

接下来依次确认生成的每个分镜画面。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_06

如果对生成的结果不满意,可以点「取消」,取消后可以上传自己的本地素材

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_07

二、视频生成

接下来就是将生成的一个个静态分镜画面,生成视频。

视频生成有两种方式:图生视频运镜控制

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_08

选择这两种任何一种方式生成视频,都可以。目前视频最大时长是 4 秒。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_音视频_09

生成的视频,也需要确认:

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AIGC_10

三、视频编辑

静态分镜画面转化成视频后,可以对视频进行编辑。

寻光支持多种视频编辑模式,比如:

角色换脸、目标新增、目标消除、目标编辑、风格变换、超分辨率、帧率控制、图层拆解、图层融合

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI工具_11

角色换脸

需要先在角色库中,新建角色,然后从角色库里选择角色换脸即可。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_12

目标新增

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_13

框选出区域,在提示词中写上希望新增的物体,比如「水母」。

在新的视频中,就出现了一只游动的水母,如下图:

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI工具_14

目标删除

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_15

选择要删除的目标,选择模型,目标就删除了。

下面是两种不同模型的区别:

运动目标消除模型:模型会基于帧间信息补充目标消除后的背景,适用于目标背景变化大的视频,处理速度快。

稳定目标消除模型:模型会自动“脑补”目标消除后的背景,适用于目标背景稳定的视频,处理速度相对较慢。

目标编辑

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_音视频_16

框选出想编辑的目标,在提示词中输入期望目标描述。

比如想将之前生成的水母,变成粉色,输入「粉色水母」,视频中的水母,就变成了粉色。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI工具_17

风格变换

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AIGC_18

目前内测期间,只支持三种风格的变换:梵高画、莫奈画、水彩画。

后续应该会上更多风格。下图是转换成了「梵高画」风格的视频:

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_19

超分辨率

目前最高支持到 2k。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI视频_20

帧率控制

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AIGC_21

图层拆解 / 图层融合

图层拆解和图层融合,这俩一起说吧。

其实就是将视频中的某个目标拆解出来,生成背景透明的视频,方便将其融合到其他的视频画面中。

这个功能,在目前的视频创作中,需求还是挺大的。

试了下寻光的这个功能,融合得还是蛮好的,超出预期。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_22

选择目标,下图是将水母单独拆解出来了。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI视频_23

选择另一个视频,点「图层融合」,从素材库中选择之前拆解出来的图层,这样水母就添加到新的视频中了。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI工具_24

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI视频_25

四、多场景

寻光可以创建多个场景,每个场景下,都可以创建多个分镜。

场景间和分镜间,是可以通过拖动,来调整顺序的。

五、导出下载

在确认各个场景下的分镜视频没有问题后,就可以导出作品了。

导出后的作品,在我的作品里查看,也可以下载。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_26

ps:目前生成的视频,是没有背景音乐、配音、字幕的,这些是需要自己用剪映等工具后期添加的。

后续是否会增加呢,期待一下。

六、问题

整体使用下来,体验还是不错的。不过用的过程中,也发现一些问题。

1、视频生成的效果有待提高

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_27

比如上图,想达到摆动胡须的效果,不管是用「图生视频」还是「运镜控制」,都没有达不到效果。

再比如有人像的分镜画面,在使用「运镜控制」生成视频时,人脸会有扭曲变形的情况。

2、分镜描述遮挡

在让用户确认分镜图生成结果时,「分镜描述」是显示不全的。所以用户可能并不能很好地判断,生成的画面,是否符合预期。

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_人工智能_28

七、结束语

寻光全新的 AI 视频工作流,大大提高了视频创作的效率,可以说是视频创作者的福音!

当然寻光还在内测,期待后续寻光可以有更好的表现。

寻光官网(内测申请):

https://xunguang.damo-vision.com/


AI&副业资料获取

微信搜【X小鹿AI副业】或微信扫下方二维码,关注后资料【资料】,获取最新资料(不定期更新)

国内大厂这款「一站式」AI视频创作平台,一键将剧本生成视频!实测体验(附内测申请)_AI视频_29


我是程序员X小鹿,前互联网大厂程序员,自由职业2年+,也是一名 AIGC 爱好者,欢迎一起交流~

标签:视频,内测,AI,分镜,生成,寻光,图层
From: https://blog.51cto.com/u_13699208/12100765

相关文章

  • UnoCSS 给了我一个不用 tailwindcss 的理由
    如果你没有听说过 tailwindcss或者 unocss,请先 return 先去了解一下。开发上:可能为你甚至你们的前端团队节省很多写样式的时间,也能让你或者你们的项目开发体验有很大提升生产上:你们的项目打出来的包体积中的样式代码占比将突然骤降然后趋于不变。为什么我换到了UnoCSSt......
  • 阅读《AI大模型开发之路》的十大理由
    作为一名技术博主,我最近读完了《AI大模型开发之路》这本书,深感这是一部值得推荐的佳作。如果你对AI大模型感兴趣,或者希望在这个领域有所提升,那么这本书绝对不容错过。以下是我推荐你阅读《AI大模型开发之路》的十大理由:1.全面覆盖AI大模型开发的各个方面从基础理论到实践应......
  • Cursor AI应用一些建议
    使用Cursor一些建议和注意事项,以避免错误和提高效率背景    CursorAI是一款集成了人工智能技术的代码编辑器,由Anysphere公司开发,是微软开源代码编辑器VSCode的一个分支。它旨在通过先进的人工智能模型(如GPT-4)来提高开发者的编程效率,为现代开发者提供远不止源代码补全的功能......
  • 人工智能AI数据库,太酷了吧!(附医疗/金融/零售行业方案)
    人工智能AI数据库,太酷了吧!(附医疗/金融/零售行业方案)前言人工智能AI数据库前言AI数据库就像是一座桥梁,连接着数据和智能应用。不仅能够让我们更轻松地访问和管理数据,还能为我们提供强大的分析和决策支持。想象一下,当你拥有一个强大的AI数据库时,你可以快速地从海量......
  • 下载 |《2024年AI Agent行业报告》——大模型时代的“APP”,探索新一代人机交互及协作
    前言随着大型模型在各行各业的广泛应用,基于大型模型的人工智能体(AIAgent)迎来了快速发展的阶段。研究AIAgent是人类不断接近人工通用智能(AGI)的探索之一。知名AIAgent项目AutoGPT已经在GitHub的星星数已经达到140,000颗,进一步反映了用户对于AIAgents项目的广泛兴趣和支持。随......
  • 【AI大模型】在线蒸馏一次视觉Transformer搜索
    一、概要最近,Puretransformers在视觉任务方面显示出巨大的潜力。然而,它们在中小数据集中的准确性并不令人满意。尽管一些现有方法引入了CNN作为教师,通过蒸馏来指导训练过程,但教师和学生网络之间的差距将导致次优绩效。在这项工作中,研究员提出了一种新的具有在线蒸馏的One-shotVis......
  • 史上最全 BAT 大厂AI大模型面试1000题整理!(速度收藏)
    前言刷题,是面试前的必备环节。想要入职大厂可谓是千军万马过独木桥。为了通过层层考验,刷题肯定是必不可少的。鉴于此大厂多年经验技术面试官总结根据BATAI大模型面试1000题系列,结合各个大厂的面试题型整理了一份《AI大模型面试刷题宝典》,为了阅读体验,面试题都按知识点整理好了,可谓......
  • 2024年中国生成式AI行业最佳应用实践|附100页PDF文件下载
    前言8月28日,由弗若斯特沙利文(Frost&Sullivan,简称“沙利文”)主办的第十八届中国增长、科创与领导力峰会暨第三届新投资大会上,沙利文携手头豹研究院共同发布了《2024年中国生成式AI行业最佳应用实践》报告,并揭晓了多项实践方案大奖。其中,商汤科技与海通证券凭借双方联合打造的金融......
  • AI大模型推理性能优化之KV Cache
    前言本篇介绍KVCache。KVCache(键-值缓存)是一种在大模型推理中广泛应用的优化技术,其核心思想是利用缓存key和value来避免重复计算,从而提高推理效率。代价是显存占用会增加。核心思想在自注意力层的计算中,对于给定的输入序列,模型会计算每个token的key和value向量。这些向量的值......
  • 从零到AI专家&产品经理:一站式学习,掌握未来职场核心竞争力
    前言随着人工智能技术的飞速发展,AI已经成为推动社会进步的重要力量。在这个数字化转型的时代,AI产品经理的需求日益增长,成为职场中的香饽饽。一、当前AI产品经理的行情分析行业需求近年来,随着AI技术的普及,各行各业都在积极探索AI的应用场景。无论是互联网巨头还是初创企业,都在加大......