火星网校
揭秘AI生成图片的奥秘
发布时间：2024-08-31 12:44:47 浏览量：126次
想必大家对于LLM（大规模语言模型）很是熟悉，也知道了它能做什么，甚至很多人也能说出GPT是怎么生成的问题的回复（概括为一句话：GPT已经理解人们语义的生成原理，因此可以基于自己的理解和泛化能力回答，而不是从数据里找答案）。但现在火极一时的Midjourney、Stable diffusion或者刚出圈的Pika的生成，背后依靠怎样的模型和机制，有可能你并不是非常了解……
作者研读了来自微软研究团队在今年9月份最新发表的论文《Multimodal Foundation Models: From Specialists to General Purpose Assistants》，来说说AI是怎么理解图片的。
和文本类的GPT相似，AI如果要生成一张符合人类要求的图片，它需要做到理解图片，进而生成图片，并且能够编辑直至达成人类的需求。
图片理解主要分成三大分类，分别是打标签式的监督学习、语义式的监督学习和纯图片式的自监督学习。
首先我们来看一下打标签式的监督学习。打标签式的监督学习，顾名思义它其实是需要有一个标签的这个准备，就是我们传统意义上来说的传统的这个 supervision learning 就是监督式的这种学习，也就是最早的这种机器学习的方式，全监督式的学习。举一个例子就是图片里面这些标签的话，它是和图片的话是一一对应的关系。
第二类的是语义式的监督学习，也就是 language supervision，这种学习的方式是通过自然语言的处理来学习视觉的概念，而这些自然语言和图片是成对出现的，也就是 image 和test，它是按对来出现的。语义式的这种监督学习和前面的相比，其实它对于这种打标签的一些基础的工作依赖性更低了，但它需要这种自然语言和图片的这种成对的这种方式，它也是会依赖于这个我们所谓的这个 NLP 的这样的一些辅助帮助。
第三类是纯图片的自监督学习，图片的这种自监督学习，它主要可以再细分成为三大类。
第一种是对比学习，也就是 contrast learning。这种对比学习，它鼓励的是正向的样本，和学习内容是正相关的，它也会需要负向样本，因为它需要对于负面的这种样本进行标注，进行相应的一个削弱。
第二种是非对比学习。比对比学习来说，它的要求会相对来说会更低一些，它不需要负面样本，它只需要正面样本。比如说我们需要训练这个猫和狗的这个图片，那对于如果想训练猫的图片的话，那我们就不需要狗的图片。
第三种是现在一直在使用非常广泛的一种叫做蒙版图片建模，英文是MIM，全称是 masked image modeling。它的主要的这个使用的这个方式流程包括说首先需要把图片转译成token， token也会作为一个附加的一个标记，也就是图片它会转译成一些分散的 token 的这种模式。在第二步模型收到被随机覆盖部分区域的图像之后，它要去推测被覆盖图像。接下来在推测完被覆盖的图像之后，它会输出低像素和高像素的两种不同类型的这种输出对象。
但是对于蒙板图片建模这种模型来说，它的一个不足之处，是缺少一些足量足够量级的全球的图像，所以有研究者提出会使用这个自我提纯的方式来保证他的这个对图片的这个理解是没有这个欠缺的。
接下来我们来看一下不同理解方法的这个融合，之前的一些融合的方式，最近比较融合的这个好的这种最佳范例是BEiT-3（BEiT和BERT的结合）。
当然我们说了这些图片理解的方式也是需要不断加强的，那加强的方案第一种就是我们传统上来说的这个卷积网络，这样使用卷积网络的方式能够提取出图片的这个特征，也就是我们最传统的一种方式，那当前比较火的这种方式是使用Transformer，也就是ViT，那它其实是能够在图片识别的时候去使用NLP，进而将图片进行分类，或者是去捕捉相应的物体。
除此之外其实还有两种预训练的模式能够去强化机器对图片的理解。第一种的话是区域级的这个预训练，还有一种是像素级的预训练的模式……
查看完整视频讲解和脑图请移步揭秘AI对图片理解的发展历程（完整视频讲解+脑图梳理）
参考来源：
https://arxiv.org/pdf/2309.10020.pdf
https://sh-tsang.medium.com/review-imagenet-21k-pretraining-for-the-masses-25a6b19e5ee8
https://github.com/openai/CLIP
https://www.kaggle.com/code/basu369victor/playing-with-vqgan-clip
https://neptune.ai/blog/knowledge-distillation
https://arxiv.org/pdf/2208.10442.pd
https://viso.ai/deep-learning/vision-transformer-vit/
https://arxiv.org/pdf/2304.02643.pdf
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
3. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
4. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
-
7. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
8. 10个建筑AI工具，从设计到施工全覆盖!肯定有你从来没听过的
讲述了建筑业比较著名的AI公司小库科技做出的探索,在这儿就不多说了。今天,我们试着在规划设计、建筑方案设计、住宅设计、管道设计、出渲染图、3D扫...
-
AI技术的快速发展为各行各业带来了许多创新应用,其中之一就是AI小说生成视频。这种技术利用人工智能算法和语言模型,将文本转化为视频剧情,加上配图、...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
最新文章
