收藏！小白程序员必看：ViCToR如何让大模型更好地理解视觉信息
本文介绍了ViCToR，一种面向大型多模态模型（LMMs）的新型预训练框架，旨在解决语言嵌入稳定而视觉表征易受上下文噪声影响的问题。ViCToR通过引入视觉理解阶段，采用可学习的视觉token池和匈牙利匹配算法，结合视觉token重建损失与密集语义监督，提升大语言模型对视觉信息的理解能力。实验证明，ViCToR在多个基准测试中取得了SOTA性能，为多模态大模型的发展提供了新的思路。
1、过去的多模态预训练方法
如何让LLM更好的理解视觉特征，这是多模态大模型在设计之初就需要思考的问题。OpenAI在CLIP中首次提出了通过对比学习方法，直接让视觉编码器对视觉的理解对齐人类语义。在有了对齐人类语义的视觉编码器之后，BLIP和LLaVA等工作开始尝试将视觉编码器与大语言模型连接到一起，试图让LLM长出眼睛看懂世界！
BLIP和LLaVA自设计之初开始，就在思考如何将视觉特征映射到文本空间中去，让LLM更好的理解视觉。LLaVA通过两层线性层的简单模块设计取得了卓越的效果，对后面许多的工作产生了深远的影响。人们发现，只要简单的维度映射模块和短caption的数据，就能让LLM对视觉内容有着初步的认知。加之以精心挑选的VQA数据进行微调，就能得到看懂世界的多模态大模型。随着研究的不断丰富，人们进一步发现，似乎可以制作大量的caption数据，从而保证LLM更加全面的理解视觉，并持续带来了能力的提升。
随着行业的不断发展，人们对于多模态大模型的普遍预训练的认知就是：简单的模块将视觉特征映射到语言特征空间中，辅以尽可能多的caption数据来提升视觉认知能力。
2、视觉和语言之间存在怎样的Gap？
但是让我们回归本质，视觉和语言，从本质的信息组成上他们究竟有怎样的Gap？
首先语言作为由人类创造的，用于对世界知识进行凝练抽象化和个人思想表达的信息媒介，其被在任意地方记录时，总会带着一定的前后因果与丰富的有效信息。学术界与工业界可以尽可能收集这些语言数据，并在海量的数据上进行大规模的自回归训练，得到现如今能力强悍的大语言模型。因此，语言的信息往往具有两个非常显著的特点，有限离散与因果。
相对而言，自数字媒体技术发明以来，图片这种信息媒介开始大量出现。相比于人们在进行书写时候的慎重表达，人们对于按下快门这件事似乎并没有那么慎重。大量的随意拍摄的图片在人类社会传播，物体与物体之间几乎可以有数不清的任意组合形式出现在图像中。因此图片中的不同元素的组合往往是空间拼接的，而非前后因果的。除此之外，相对于语言对物体的抽象表达，同一类事物在图片中的表现又有无数种。因此图片的特征空间其实是连续且无限的。
因此从本质上来说，视觉语言之间始终有两条巨大的鸿沟——无限与有限、前后因果与空间拼接。
3、ViCToR：让LLM更懂视觉的
多模态预训练方法
为了弥补视觉与语言之间的模态鸿沟，ViCToR通过视觉特征重建与VTP模块来让LLM更好的理解视觉特征。
首先，为了让LLM理解视觉信息的组织形式是空间上的拼接，而非前后因果关系，ViCToR通过随机mask的方式，保证LLM只能看到空间上离散的视觉特征。再利用特征级别的重建，促使LLM通过上下左右的可见的视觉特征“想象”中间的视觉特征的形式。
其次，由于视觉特征空间是无限的，为了让LLM主动总结视觉特征的类别。ViCToR提出了一种VTP组件，随机初始化N个可学习的视觉特征，并在将视觉特征喂给LLM之前，对部分的视觉特征从N个可学习的视觉特征中选择最相近的部分特征进行替换。利用此方式，LLM会不断优化VTP组件中的N个视觉特征，形成对视觉特征的总结与抽象。
除此之外，ViCToR还提出，此方式只需要作用于stage 1.5，可以促使图片的caption和视觉重建任务相辅相成，以较低的成本实现更佳的预训练效果。
4、实验
ViCToR-7B基于SigLip2和Qwen2.5-7B的预训练模型，在3m预训练数据和780k结构化微调数据上训练出超越了近似量级的多个SOTA模型。
并且为了在相对公平的情况下体现ViCToR与其他预训练方法的高效性，研究团队还控制了视觉基座、预训练数据等多个setting相同或劣势于其他的方法进行了比较实验。
通过对不同图片中的视觉特征与VTP中的N个训练后的特征进行聚类，研究团队可视化了VTP对视觉内容强大的抽象能力。
总结
在当前业界普遍采用堆数据暴力升级的方式下，ViCToR从模态信息组织差异的本质入手，似乎能更好的解释为什么当前的多模态发展瓶颈。这启发了后面的相关工作应当更加关注信息本质，让模型的训练能够符合原本的信息特点。这或许也是为什么主流LLM总是自回归的因果mask attention，而ViT总是双向可见的attention的原因。
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包：
- ✅ 从零到一的 AI 学习路径图
- ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
- ✅ 百度/阿里专家闭门录播课
- ✅ 大模型当下最新行业报告
- ✅ 真实大厂面试真题
- ✅ 2026 最新岗位需求图谱
所有资料 ⚡️ ，朋友们如果有需要《AI大模型入门+进阶学习资源包》，下方扫码获取~
① 全套AI大模型应用开发视频教程
（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）
② 大模型系统化学习路线
作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！
③ 大模型学习书籍&文档
学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。
④ AI大模型最新行业报告
2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。
⑤ 大模型项目实战&配套源码
学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。
⑥ 大模型大厂面试真题
面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。
以上资料如何领取？
为什么大家都在学大模型？
最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！
不出1年，“有AI项目经验”将成为投递简历的门槛。
风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！
这些资料真的有用吗？
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。