多模态大模型面临哪些挑战?

当前多模态模型的挑战要从具体能力说，而不是笼统说看不懂图。CLIP式图文对比学习擅长学习全局语义对应，但全局相似不等于能定位对象、区分属性、读取小字或判断两个对象的空间关系。模型能识别画面主题，也可能在计数、左右、遮挡和指代上失败。

数据是主要限制之一。网页图文对常只有弱相关描述，caption会遗漏画面中的对象、关系与否定信息；OCR、区域短语、跨帧动作和专业图像需要更细的标注。合成描述可以扩量，也会继承教师模型幻觉。训练前要做许可、隐私、去重与细粒度抽检。

评测必须按能力切片。空间与组合推理可用GQA类任务，场景文字可看TextVQA，视频则关注事件顺序、长时依赖和采样遗漏。每个基准也有数据偏差，因此还要保留真实业务失败样本。不能因为某个总分提高，就断言细粒度对齐或长链推理必然改善。

CoT可能帮助模型组织步骤，但生成的理由不一定由视觉证据支持；Agent可以调用OCR、检测器或搜索，RAG可以补外部知识，却都不能自动修复输入中未被识别的对象。工具返回还可能冲突或被错误引用，需要显示区域、帧和文本证据，并在不足时拒答。

跨模态冲突是另一类风险。图像、字幕和用户文字不一致时，模型可能偏向更强的文本先验。需要专门构造冲突样本，测模型是否指出差异，而不是强行融合。医学、身份和内容审核等高风险场景还要做权限控制、隐私处理和人工确认。

系统侧也有成本约束。分辨率、帧数和视觉token增加会抬高prefill与显存，并不保证质量线性提升。我的验收会同时报告grounding、OCR、时序、事实支持率、拒答、延迟和成本。只有具体失败类型减少，才能说明数据、模型或工具方案真正有效。