火星网校
大语言模型击败扩散模型！视频图像生成双SOTA
发布时间：2023-11-28 14:54:39 浏览量：127次
业内首次证据证明
白交 发自 凹非寺
|
语言模型击败扩散模型，在视频和图像生成上实现双SOTA！
这是来自谷歌CMU最新研究成果。
据介绍，这是语言模型第一次在标志性的ImageNet基准上击败扩散模型。
而背后的关键组件在于视觉分词器（video tokenizer） ，它能将像素空间输入映射为适合LLM学习的token。
谷歌CMU研究团队提出了MAGVIT-v2，在另外两项任务中超越了之前最优视觉分词器。
大语言模型击败扩散模型
已经形成共识的是，大语言模型在各个生成领域都有出色的表现。比如文本、音频、代码生成等。
但一直以来在视觉生成方面，语言模型却落后于扩散模型。
团队认为，其主要原因在于缺乏一个好的视觉表示，类似于自研语言系统，能有效地对视觉世界进行建模。与自然语言不同，人类会对视觉世界尚未演化出最佳的词汇。而这也限制了大语言模型的视觉生成能力。
基于这样的判断，这篇研究主要完成了三项工作：
- 提出一种新的视觉tokenizer，在视觉生成、视频压缩以及动作识别都优于此前最优表现。
- 一种全新无查找（lookup-free）的量化方法，可通过学习大量词汇来提高语言模型的视觉生成质量；
- 首次有证据表明，在相同训练数据、等效模型大小和类似训练预算的条件下，语言模型在ImageNet上击败扩散模型。
据作者介绍，这也是视觉分词器首次成功地实现了与标准编解码器相媲美的效果。
在原有SOTA视觉tokenizerMAGVIT （Masked Generative Video Transformer）基础上，该方法主要完成了两种设计：无查找量化（Lookup-Free Quantization ，LFQ）以及图像-视频联合tokenizer。
最终在视频/图像生成，ImageNet 512×512和Kinetics-600，都优于Diffusion Model。
而在视频压缩、动作识别上，也优于以往的结果。
一作是北大校友
一作于力军目前是CMU计算机科学学院语言技术研究所博士生，师从Alexander G. Hauptmann教授，同时也是谷歌学生研究员。研究兴趣在于多模态基础模型，特别是多任务视频生成。
在来到CMU前，他在北大获得了计算机和经济学双学士学位。
在研究团队中也看到了其他不少华人面孔。
通讯作者蒋路，目前是谷歌研究院科学家以及CMU的兼职教授。
他的研究主要针对多模态大数据科领域，特别是鲁棒深度学习、生成式人工智能和多模态基础模型。
论文链接：
https://arxiv.org/abs/2310.05737
https://magvit.cs.cmu.edu/v2/
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
3. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
4. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
-
7. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
8. 10个建筑AI工具，从设计到施工全覆盖!肯定有你从来没听过的
讲述了建筑业比较著名的AI公司小库科技做出的探索,在这儿就不多说了。今天,我们试着在规划设计、建筑方案设计、住宅设计、管道设计、出渲染图、3D扫...
-
AI技术的快速发展为各行各业带来了许多创新应用,其中之一就是AI小说生成视频。这种技术利用人工智能算法和语言模型,将文本转化为视频剧情,加上配图、...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
