当前位置:首页> AI资讯> Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

释放双眼,带上耳机,听听看~!
Mini-Gemini 是一款多模态模型,具有强大的图像推理和生成能力,结合了 GPT4+DALLE3 的优势。该模型已全部开源,并在 PaperWithCode 热榜上登上榜首。欢迎体验 Mini-Gemini 的图像理解和推理能力,并利用其生成功能进行多轮对话。

更高清图像的精确理解、更高质量的训练数据、更强的图像解析推理能力,还能结合图像推理和生成,香港中文大学终身教授贾佳亚团队提出的这款多模态模型 Mini-Gemini 堪称绝绝子,相当于开源社区的 GPT4+DALLE3 的王炸组合!

Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

  • Github 地址:https://github.com/dvlab-research/MiniGemini
  • Demo 地址: http://103.170.5.190:7860/
  • 论文地址:https://arxiv.org/pdf/2403.18814.pdf
  • 模型地址:https://huggingface.co/collections/YanweiLi/mini-gemini-6603c50b9b43d044171d0854
  • 数据地址:https://huggingface.co/collections/YanweiLi/mini-gemini->Mini-Gemini 还提供了 2B 小杯到 34B 的超大杯,最强模型在多个指标上相比 Google Gemini Pro 甚至 GPT-4V 都不遑多让。目前,Mini-Gemini 从代码、模型、到数据已全部开源,还登上了 PaperWithCode 热榜。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    值得一提的是,Mini-Gemini 的图像理解和生成能力已经出了 Demo,可以在线跟自定义图像对话的那种。

    操作也极其简单,直接跟输入图像或文字进行对话即可,欢迎来撩!

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini Demo 放出后受到广大网友关注,一番 “品尝” 后,他们认为 Mini-Gemini 跟商业模型差不了多少!

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    效果展示

    目前,绝大多数多模态模型仅支持低分辨率图像输入和文字输出,而在实际场景中,许多任务都需要对高清图像进行解析,并用图像的形式进行展现。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    如上图所示,Mini-Gemini 不仅能够根据图片对做面包的过程进行手把手教学,也能够准确将不同电脑根据图片中的各种参数进行对比。网友表示:妈妈再也不用担心我的生活了。

    更重要的是,Mini-Gemini 在保留超强的图像理解和推理能力的同时,还解锁了图像的生成能力,就如同 ChatGPT 和生成模型的结合。

    下面,让我们通过几个例子来更直观地感受这种能力:

    还记得 Google Gemini 的官方演示视频么?当用户给出两个毛线团并问出能用它们做什么时,Gemini 可以识别出图片内容并给出相应的建议。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    当我们把相似的输入给到 Mini-Gemini,它会怎么回答呢?

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    可以发现,Mini-Gemini 也可以识别出图片中的元素,并且给出合理的建议,同时生成了一只对应的毛线小熊。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    通过一些抽象的多模态指令来让模型给出推理,并生成合适的图片,这个操作就很像是 ChatGPT 和 DALLE3 的联动了!

    接下来让 Mini-Gemini 做自己最擅长的推理和图片理解,看看它表现:

    比如理解图片中的矛盾点并举一反三:输入冰川中的仙人掌,它会解释其中的矛盾并生成一张热带雨林中北极熊的图片:

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    图片呈现了仙人掌的典型栖息地与冰的存在之间的视觉矛盾,因为在沙漠环境中自然不会出现冰。这种矛盾的类似例子可能是一只北极熊出现在热带雨林中,因为北极熊适应于寒冷、覆盖着冰的环境,在炎热潮湿的气候中无法生存。这种并置创造了一个引人注目且超现实的视觉效果,挑战观众的期待,并可能引发人们对气候变化、环境适应或不同生态系统融合的思考。

    同时,正如 ChatGPT+DALLE3 的梦幻结合一样,Mini-Gemini 的推理生成功能还可以在多轮对话中通过简单指令生成连环小故事。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    比方说,让它根据用户输入讲一个贵族小老鼠的故事。Mini-Gemini 会根据前文的文字生成结果和用户输入进行推理,在保持一致性的情况下对图片进行修改,使其更符合用户的要求。

    当然,Mini-Gemini 对于多模态模型的传统技能图片理解也不在话下。比如让模型理解输入曲线图(上图)的数学意义(高斯分布),并让它使用代码复现这张图,通过运行生成的代码,模型可以高质量地还原曲线图,节省了复现的时间。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    又或者让 Mini-Gemini 理解梗图,通过其强大的 OCR 和推理能力,也可以准确指出笑点。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    高清复杂的多图表理解和归纳也是小菜一碟。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    Mini-Gemini 背后的技术

    大道至简,Mini-Gemini的整体思路并不复杂。其中的Gemini(双子座)表达的是使用视觉双分支的信息挖掘(Mining-Info in Gemini)解决高清图像理解问题。

    详细来说,Mini-Gemini 将传统所使用的 ViT 当做低分辨率的 Query,而使用卷积网络 (ConvNet) 将高分辨率的图像编码成 Key 和 Value。使用 Transformer 中常用的 Attention 机制,来挖掘每个低分辨率 Query 所对应的高分辨率区域。从而在保持最终视觉 Token 数目不变的情况下去提升对高清图像的响应,保证了在大语言模型 (LLM) 中对于高清图像的高效编码。值得一提的是,由于高分辨率分支卷积网络的使用,可以根据需要对图像所需的分辨率自适应调整,能够遇强则强。对于图像的生成部分,Mini-Gemini 借助了 SDXL,使用 LLM 推理后所生成的文本链接两个模型,类似于 DALLE3 的流程。

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    而对于数据这个万金油,Mini-Gemini 进一步收集并优化了训练数据的模型结合的文本数据进行训练。在仅使用 2-3M 数据的情况下,实现了对图像理解、推理、和生成的统一流程。

    实验结果

    Mini-Gemini 在各种 Zero-shot 的榜单上毫不逊色于各种大厂用大量数据训练出来的模型,可谓是 “平、靓、正” !

    量化指标

    Mini-Gemini: 开源多模态模型,图像推理和生成能力超强

    可以看出,Mini-Gemini 提供了多种普通和高清版本的模型,并且覆盖了 2B 的小杯到 34B 的超大杯,各个版本都取得了相似参数量下领先的效果,在许多指标上甚至超越 Gemini Pro 和 GPT-4V。

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI资讯

马斯克的多模态模型Grok-1.5V终于面世,解决自动驾驶边缘案例潜力巨大

2024-4-15 13:11:42

AI资讯

js-pytorch:JavaScript中运行PyTorch模型的框架介绍

2024-4-15 13:17:59

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索