阿里云通义千问再开源！推出大规模视觉语言模型qwen-金沙娱场城app

原标题：阿里云通义千问再开源！推出大规模视觉语言模型qwen-vl，免费可商用

智东西

作者 | 李水青

编辑 | 云鹏

智东西8月25日消息，今日，阿里云推出大规模视觉语言模型qwen-vl，一步到位、直接开源。

据悉，qwen-vl以通义千问70亿参数模型qwen-7b为基座语言模型研发，支持图文输入，具备多模态信息理解能力。在主流的多模态任务评测和多模态聊天能力评测中，qwen-vl取得了远超同等规模通用模型的表现。

qwen-vl是支持中英文等多种语言的视觉语言（vision language，vl）模型，相较于此前的vl模型，qwen-vl除了具备基本的图文识别、描述、问答及对话能力之外，还新增了视觉定位、图像中文字理解等能力。

一、上线modelscope魔搭社区，免费可商用

多模态是通用人工智能的重要技术演进方向之一。

业界普遍认为，从单一感官的、仅支持文本输入的语言模型，到“五官全开”的，支持文本、图像、音频等多种信息输入的多模态模型，蕴含着大模型智能跃升的巨大可能。多模态能够提升大模型对世界的理解程度，充分拓展大模型的使用场景。

视觉是人类的第一感官能力，也是研究者首先想赋予大模型的多模态能力。继此前推出m6、ofa系列多模态模型之后，阿里云通义千问团队又开源了基于qwen-7b的大规模视觉语言模型（large vision language model, lvlm）qwen-vl。qwen-vl及其视觉ai助手qwen-vl-chat均已上线modelscope魔搭社区，开源、免费、可商用。

用户可从魔搭社区直接下载模型，也可通过阿里云灵积平台访问调用qwen-vl和qwen-vl-chat，阿里云为用户提供包括模型训练、推理、部署、精调等在内的全方位服务。

二、看图说话，能“认出”图中的东方明珠

qwen-vl可用于知识问答、图像标题生成、图像问答、文档问答、细粒度视觉定位等场景。

比如，一位不懂中文的外国游客到医院看病，不知怎么去往对应科室，他拍下楼层导览图问qwen-vl“骨科在哪层”“耳鼻喉科去哪层”，qwen-vl会根据图片信息给出文字回复，这是图像问答能力。

再比如，输入一张上海外滩的照片，让qwen-vl找出东方明珠，qwen-vl能用检测框准确圈出对应建筑，这是视觉定位能力。

qwen-vl是业界首个支持中文开放域定位的通用模型，开放域视觉定位能力决定了大模型“视力”的精准度，也即，能否在画面中精准地找出想找的事物，这对于vl模型在机器人操控等真实应用场景的落地至关重要。

qwen-vl以qwen-7b为基座语言模型，在模型架构上引入视觉编码器，使得模型支持视觉信号输入，并通过设计训练过程，让模型具备对视觉信号的细粒度感知和理解能力。qwen-vl支持的图像输入分辨率为448，此前开源的lvlm模型通常仅支持224分辨率。在qwen-vl 的基础上，通义千问团队使用对齐机制，打造了基于llm的视觉ai助手qwen-vl-chat，可让开发者快速搭建具备多模态能力的对话应用。

三、阿里云通义千问加快开源步伐

在四大类多模态任务（zero-shot caption/vqa/docvqa/grounding）的标准英文测评中，qwen-vl取得了同等尺寸开源lvlm的最好效果。为了测试模型的多模态对话能力，通义千问团队构建了一套基于gpt-4打分机制的测试集“试金石”，对qwen-vl-chat及其他模型进行对比测试，qwen-vl-chat在中英文的对齐评测中均取得了开源lvlm最好结果。

8月初，阿里云开源通义千问70亿参数通用模型qwen-7b和对话模型qwen-7b-chat，成为国内首个加入大模型开源行列的大型科技企业。通义千问开源模型刚一上线就广受关注，当周冲上hugging face趋势榜单，不到一个月在github收获3400多星，模型累计下载量已突破40万。

开源地址：

modelscope魔搭社区：

qwen-vl https://modelscope.cn/models/qwen/qwen-vl/summary

qwen-vl-chat https://modelscope.cn/models/qwen/qwen-vl-chat/summary

模型体验：https://modelscope.cn/studios/qwen/qwen-vl-chat-demo/summary

huggingface地址：

qwen-vl https://huggingface.co/qwen/qwen-vl

qwen-vl-chat https://huggingface.co/qwen/qwen-vl-chat

github地址：

https://github.com/qwenlm/qwen-vl

技术论文地址：

https://arxiv.org/abs/2308.12966