火星网校
挑战GPT-4V！清华唐杰&智谱开源多模态14边形战士
发布时间：2023-11-28 14:55:41 浏览量：126次
从浅层对齐到深度融合
梦晨 发自 凹非寺
|
看看这张图中有几个房子？如果你回答3个，就和GPT-4V的答案一样。
但是最新开源的国产多模态模型CogVLM-17B，就能看出另有玄机。
甚至能区分在图中完整可见的有3个和部分可见的有1个。
CogVLM由清华和智谱AI合作开发，通讯作者为唐杰和丁铭，论文和开源代码已上传到GitHub。
除这个单独案例之外，CogVLM-17B还在10项权威跨模态基准上取得了SOTA性能。
另外在VQAv2, OKVQA, TextVQA, COCO captioning取得第二，超越或匹配谷歌的PaLI-X 55B。
与之前的开源多模态大模型相比，可以算是14边形战士。
雷达图中包含13个基准，最后一个TDIUC单独展现。
CogVLM可以回答各种类型的视觉问题，比如从马斯克的阴阳怪气中推理出小扎假装去旅行了，回避约架。
认出照片中的C罗，并回答他在2018年世界杯中有多少进球。
带图的编程题也能给出代码了。
甚至能完成复杂的目标检测，并打上标签，自动数据标注成了。
从浅层对齐到深度融合
CogVLM模型包含4个基本组件
- ViT编码器
- MLP适配器
- 大型预训练语言模型
- 视觉专家模块
其中，每层中都添加了可训练的视觉专家模块，以实现图像特征和文本特征的深度对齐，而不会牺牲任何NLP任务的性能。
之前主流的浅层对齐方法，如BLIP-2，图像特征和语言模型之间缺乏深度融合,导致性能不佳。
但微调语言模型的全部参数又会损害其NLP能力。
CogVLM的方法可以说是改变了视觉语言模型的训练范式，从浅层对齐转向深度融合。
另外值得注意的是，CogVLM训练数据中没有专门的OCR数据，但表现出了很强的文字识别能力。
CogVLM开源并给出了在线试玩。
不过目前仅支持英文，后续会提供中英双语版本支持，可以持续关注。
试玩地址：
http://36.103.203.44:7861
开源及论文地址：
https://github.com/THUDM/CogVLM
— 完 —
QbitAI · 头条号签约
关注我们，第一时间获知前沿科技动态
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
3. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
4. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
-
7. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
8. 10个建筑AI工具，从设计到施工全覆盖!肯定有你从来没听过的
讲述了建筑业比较著名的AI公司小库科技做出的探索,在这儿就不多说了。今天,我们试着在规划设计、建筑方案设计、住宅设计、管道设计、出渲染图、3D扫...
-
AI技术的快速发展为各行各业带来了许多创新应用,其中之一就是AI小说生成视频。这种技术利用人工智能算法和语言模型,将文本转化为视频剧情,加上配图、...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
最新文章
