这项由北京邮电大学、中国科学院大学和StepFun联合完成的研究,以预印本形式于2026年7月3日发布,论文编号为arXiv:2607.03530。感兴趣的读者可以通过该编号在arXiv平台查询完整论文。
人类在日常生活中有一种神奇的能力——闭上眼睛,脑子里就能浮现出房间的布局,想象自己站在门口时沙发在哪里、窗户在哪边。这种能力叫做"心理意象",是人类解决空间问题的核心武器。当你在陌生城市靠着脑子里的地图找路,当你组装家具时在脑海里旋转零件、判断哪面朝上,用的都是这种能力。
【资料图】
现在,这项研究团队提出了一个大胆的问题:能不能让AI也学会这种"脑补画面"的能力?他们的答案是MentalThink——一套让多模态大语言模型(也就是那种既能看图又能理解文字的AI)真正学会用"心理图像"来思考的系统。而且这套系统的实现方式出人意料地优雅:不是让AI产生什么神秘的内部幻象,而是让它在思考过程中动手画图——用一种叫做SVG的代码格式,把脑子里的空间关系画出来、看一看、再继续推理。
实验结果相当亮眼。在专门测试空间理解能力的VSIBench基准上,MentalThink达到了55.1%的准确率,比作为基础模型的Qwen2.5-VL-7B整整高出24.1个百分点;在MindCube这个专门考验三维心理旋转能力的测试上,准确率从36%跳升到76%,足足提高了40个百分点。这个成绩不仅超越了同等规模的所有开源模型,甚至在某些维度上达到或超过了GPT-5、Gemini-2.5-pro这些顶级商业模型。
一、AI为什么不擅长"看空间"?
在理解MentalThink的独特之处之前,有必要先弄清楚现有的AI在空间推理上到底卡在哪里。
现在最主流的AI推理方式叫做"思维链"(Chain-of-Thought),简单说就是让AI在回答问题之前,先把推理步骤一步一步写出来,就像做数学题时展示解题过程一样。这种方法在逻辑推理、数学计算上效果很好。但当问题变成"站在沙发上面向椅子,镜子在你的左前方还是右后方"时,单纯靠写文字来推理就开始力不从心了。
原因在于,文字描述天生就是线性的、模糊的。你可以写"沙发在房间北侧,椅子在东侧,镜子在西南角",但光靠这些文字,AI很难在大脑里建立起一个精确的三维空间模型。它可能写出听起来很合理的推理过程,但实际上在空间关系上已经偏离了现实——这种现象研究团队称为"幻觉",就像一个盲人靠记忆描述一个从未去过的房间,说得头头是道但细节全错。
研究人员也想到了其他解法。一种方案是让AI调用外部工具,比如放大图像、旋转视角等。但这就像做饭时每个步骤都要查食谱,流程被打断,而且工具能做什么、不能做什么完全受限于工具设计者的想象力。另一种方案是让AI输出空间信息的简化表示,比如用一个个方框(边界框)标注各个物体的位置。这比纯文字强,但方框只能告诉你"这里有个东西",无法传达物体的形状、朝向、相互遮挡等精细信息——就像把一张立体的城市沙盘压扁成一堆矩形贴纸,大量关键信息在压扁过程中消失了。
MentalThink选择了第三条路:SVG代码作为"心理草图"的载体。
二、为什么是SVG?用代码画出"脑中的图"
SVG是一种用代码来描述图形的语言,全名是"可缩放矢量图形"。和JPEG、PNG这类存储像素点的图片格式不同,SVG用文字指令来描述图形:"在坐标(100,200)处画一个半径为50的圆,颜色为蓝色"。这种格式的核心特点是:代码和图像之间存在严格的一一对应关系——给定代码,渲染出来的图像是完全确定、可预期的,没有任何随机性。
研究团队选择SVG作为AI"脑补画面"的工具,有几个关键原因,这些原因在文章叙述中会被反复印证。
SVG是AI本来就擅长的语言。现代大语言模型在训练时,见过海量的HTML、XML、SVG等代码,对这种"用层级结构描述元素属性"的语法模式非常熟悉。让AI写SVG,就像让一个从小学绘图的人用画笔表达想法,比强迫他用文字描述视觉信息要自然得多。
SVG能强迫AI进行精确的空间思考。你不能在SVG里含糊地写"沙发大概在左边"——你必须给出具体坐标。这种强制精确性,像是给空间推理装上了约束框架,逼着AI真正去计算位置关系,而不是凭感觉说话。
SVG生成的图像可以立刻被AI"看到"。AI生成SVG代码之后,系统会立刻把这段代码渲染成一张图片,然后把这张图片反馈给AI。AI就能"看"自己刚才画的东西,检查它是否符合预期,然后决定下一步怎么推理。这就形成了一个闭环:画图→看图→继续想→再画图→再看图……和人类在纸上边画边想、边擦边改的过程惊人相似。
三、MentalThink是如何被训练出来的?
理解了SVG作为"心理草图"的原理,下面来看研究团队是如何把这种能力"教"给AI的。整个训练过程分成两个阶段,可以用学习驾驶来类比:第一阶段是学规则、练基本操作,第二阶段是真实路况中不断试错、积累经验。
第一阶段叫做"监督微调"(SFT),研究团队给这个阶段起了个形象的名字:"冷启动阶段的语法对齐"。在这个阶段,他们给AI准备了约20万条精心设计的训练样本,分成三类。
第一类是"视觉-语法对齐"数据,大约5万条,目的是让AI学会把眼睛看到的东西转换成SVG代码的能力。比如给AI看一张房间照片,让它把房间里的主要物体位置关系用SVG表达出来。这一步的作用是让AI建立起"视觉感知"和"代码表达"之间的桥梁。
第二类是"视觉思维外化"数据,同样约5万条,这是整个训练中最关键的部分。这些数据来自MindCube和VSIBench两个数据集的训练集(分别1万和4万条),经过精心筛选,只保留需要强烈视觉推理的题目。研究团队用谷歌最新的Gemini 3作为"教师模型",让它针对每道空间推理题生成完整的"边推理边画SVG草图"的解题过程,就像聘请了一个顶尖教师来演示"如何用画图辅助思考"。这些演示数据随后被用来训练学生模型,让它学会在什么时候画图、画什么样的图、如何解读自己画出的图。
第三类是"基础空间感知"数据,约10万条,来自多个公开数据集,涵盖驾驶场景、卫星图像理解、室内导航等各种空间感知任务。这类数据的作用是给AI打下扎实的空间认知基础,就像学开车之前先要理解交通规则和道路结构一样。
完成第一阶段训练后,AI已经具备了"画SVG草图"的基本能力,但还不擅长在复杂推理中策略性地使用这种能力。这就来到了第二阶段。
第二阶段叫做"多轮强化学习"(Multi-turn RL),训练工具是一种叫做GRPO(组相对策略优化)的算法。在这个阶段,AI不再被动地模仿教师的示范,而是被放到真实的推理环境中自主探索。它对一道空间推理题的回答会经过一个评分系统的评判,评分依据两条标准。
一是格式奖励:AI生成的SVG代码能不能被正常渲染成图片?能渲染才能得分,否则就是"废图",不得分。这条规则确保AI产生的"心理图像"是真实可见的,不是凭空臆造的字符乱码。二是答案奖励:最终给出的答案是否正确?只有最后一步的答案才算,而且是稀疏奖励,不是每一步都评分。这条规则让AI的核心目标始终是"答对题",而不是"把图画得好看"。
整个多轮强化学习的过程可以这样描述:AI面对一道题,先用文字分析,然后决定是否需要画草图。如果需要,它生成SVG代码,系统自动渲染成图片,图片反馈给AI,AI看着自己画的图继续思考,可能修改图、可能直接得出结论。这个"思考→画图→看图→再思考"的循环最多可以进行5轮,每一轮都算作一次"转"。最终给出答案后,评分系统打分,AI根据得分调整自己的策略,慢慢学会了什么时候该画图、画什么样的图最有助于推理。
训练实验在32块英伟达H800 GPU的集群上完成。第一阶段学习率设为5×10??,批大小256;第二阶段为保持策略稳定,学习率降低到2×10??,批大小64。两个阶段奖励权重的设置是:格式奖励占0.25,答案奖励占0.75,体现了"答案正确最重要,但图要能渲染是前提"的设计哲学。
四、"画图思考"比"说话思考"强在哪里?
训练完成后,研究团队做了一个关键的对照实验,直接比较三种不同的"思考方式":纯文字思考(Think-with-Text)、用边界框思考(Think-with-BBox)和用SVG草图思考(Think-with-SVG)。三种方式使用完全相同的底层模型、相同的训练数据、相同的题目,唯一的区别就是中间推理过程的表达形式。
结果非常清晰。在MindCube上,SVG思考方式得了57.8分,文字思考42.5分,边界框思考41.1分;在VSIBench上,SVG思考39.4分,文字思考24.5分,边界框思考17.4分——边界框方式在这个测试上甚至比纯文字还差。这说明,那种把空间信息压缩成方框的做法,在VSIBench这种需要精细空间推理的测试上,反而是一种有损压缩,丢失了太多有用信息。
这个对照实验的重要意义在于:同等的训练资源、同等的基础模型,仅仅因为"思考媒介"不同,能力差距就拉开到这种程度。这说明,SVG作为空间推理的"思考介质",本身就携带着一种结构性优势,而不是靠更多数据或更大模型"堆"出来的。
研究团队还观察到了一个有趣的现象,他们称之为"系统一与系统二的自适应行为"。心理学中,"系统一"指快速直觉反应,"系统二"指缓慢深度思考——就像你瞬间认出朋友的脸(系统一)和你费力心算一道数学题(系统二)时用的是不同的认知模式。
在实验中,对于那些考察基本视觉感知的简单题目,AI会直接给出答案,平均只用1.19轮,SVG草图的使用率只有18.5%,每道题平均生成109个token。但当遇到复杂的组合式视觉推理题时,AI会自动切换到"慢思考"模式:平均用1.64轮,SVG使用率飙升到63.7%,每道题平均生成544个token。两类题目最终得分相近(55.11 vs 55.10),但资源投入差了将近5倍。
这种自适应行为意味着AI真正内化了"什么时候需要画图辅助"的判断——简单问题直接答,复杂问题才拿出画板。这和人类的认知策略几乎一致。
五、在各种空间测试上的表现
研究团队在6个专门的空间理解与推理基准测试上评估了MentalThink,全面对比了它与各类模型的差距。
VSIBench是最综合的测试,涵盖物体大小判断、房间大小估算、相对方向、相对距离、出现顺序等多个维度。MentalThink-RL(强化学习版本)得到55.1分,比基础模型Qwen2.5-VL-7B的31.0高出24.1分,比顶级开源模型InternVL3-8B的42.1高出13分,与GPT-5的55.0几乎持平,超过了Gemini-2.5-pro的53.5。
MindCube专门测试需要三维心理旋转的推理题,难度极高。MentalThink-RL达到76.0分,而Gemini-2.5-pro只有57.6,GPT-5是56.3,InternVL3-8B是41.5——这是MentalThink最亮眼的成绩,说明SVG草图在帮助AI做三维空间旋转推理时有着独特优势,而这恰恰是纯语言推理最难攻克的领域之一。
ViewSpatial考察的是多视角空间定位能力。MentalThink-RL得62.5分,比基础模型高出25.7分,比同类专注空间推理的模型(如SpatialLadder-3B的44.2、SpaceR-SFT-7B的35.8)高出明显。
SpatialViz测试空间可视化能力,MentalThink-RL得38.7分,比基础模型高11.9分,在所有对比模型中排名最高。
MMSI-Bench和OmniSpatial两个测试上,MentalThink的提升相对温和(分别+0.2和+4.2),表明在多图像空间智能和综合空间推理这两类任务上,SVG草图的优势不如在单场景三维推理中那么突出,这也指出了未来可以继续改进的方向。
从消融实验(也就是逐一去掉某个训练组件、看分数如何变化的实验)来看,三个组件各有贡献且缺一不可。只用基础模型,VSIBench得31.0;加入SVG推理数据后跳到44.4(+13.4);再加入通用空间感知数据后到53.9(+9.5);最后加入强化学习阶段后到55.1(+1.2)。有意思的是,单纯加入SVG数据后,"出现顺序"这个子指标从28.2飙升到56.0,物体大小从37.2升到55.9,但房间大小反而从43.2降到31.9——这说明SVG数据让AI学会了精细的局部空间感知,但没有照顾到"房间整体尺度"这种更宏观的空间属性,而通用空间感知数据正好补上了这个缺口,把房间大小从31.9恢复到58.4。
六、"心理草图"如何解决具体难题?
研究团队在论文中展示了几个典型案例,展示了SVG草图在实际推理中如何发挥作用,这些案例很好地体现了"画图思考"的三种核心模式。
第一种模式是"动态视角转换"。有道题是这样的:图片里有一个穿绿衣服的男人和一个穿白衣服的男人,问从穿绿衣男人的视角看,穿白衣男人在什么位置。AI先用文字分析两人的相对位置,然后生成一段SVG代码,画出以绿衣男人为中心的坐标系,明确标出"前方"和"左右"的方向,再把白衣男人的位置投影到这个坐标系里。通过看自己画的这张图,AI能直接读出答案,而不需要在脑子里做复杂的坐标变换。
第二种模式是"反思与自我纠错"。另一道题问:站在电视机旁边,面朝桌子,白板在左边还是右边?AI先生成了一张初步的房间布局草图,然后在分析时发现了一个问题——"如果我面朝南方(图里的向下方向),那么"右边"应该是西方,但西方在图里看起来是左边……"于是它重新调整了坐标系的方向,重新画了一张图,这次图上明确标注了"面朝南时,右边是西边",从而得出了正确答案。这个过程和人类在纸上画图、发现画错了、涂掉重画的行为几乎完全一致。
第三种模式是"组合场景构建"。这道题来自视频帧,需要判断站在门口、面向电视时,背包在什么方位。AI先画出房间的绝对空间布局草图(门在哪、电视在哪、背包在哪),然后在这张图上叠加一个以门口为圆心、以"面向电视"为前方的坐标系,最后在图上直接看出背包落在"前左"象限,给出答案。这种"先建立客观地图、再叠加主观视角"的两步走策略,正是人类在陌生城市导航时的本能做法。
这三种模式归结到一点:SVG草图给AI提供了一个"可以操作的工作空间"。它不仅仅是把想法可视化,更重要的是,把这些想法变成可以被AI自己的视觉系统重新审视和检验的对象。AI能看到自己想错了,并改正它。
说到底,MentalThink做的事情可以用一句话概括:教AI在脑子里画草图来帮助思考。这个想法本身一点都不神秘——我们人类做到这一点已经几百万年了。困难的部分在于如何把这种能力用工程的方式"装进"一个AI系统,同时让整个过程可以被验证、可以被学习、可以被强化。
这项研究意味着,未来的AI助手在处理"帮我想想怎么摆放家具"、"这个3D拼图的下一步怎么走"、"从地图上看我应该往哪转"这类问题时,可能会不再停留在文字描述的层面,而是真的在内部"画一画",然后把更精确的答案告诉你。
值得思考的是,SVG这种特定的语言是否是最优的"心理素描本",还是说未来有更好的表达形式?研究团队也坦诚地指出,训练这种能力需要大量高质量的"边推理边画图"示范数据,而这类数据在自然界非常稀少,需要专门的数据合成流程。如何让AI更自然地、自发地启动这种能力,而不是依赖精心设计的训练信号,是接下来需要解决的核心挑战。这项研究可以作为一个基础,推动那些在推理过程中能够主动运用视觉想象力的、更像人类思维方式的AI系统的探索。如有兴趣深入了解,可以通过arXiv编号2607.03530查阅完整论文。
Q&A
Q1:MentalThink是什么?
A:MentalThink是北京邮电大学、中国科学院大学和StepFun联合研究的一套AI推理系统。它的核心思路是让多模态大语言模型在回答空间推理问题时,不只是用文字描述,而是主动生成SVG格式的代码草图,将空间关系"画出来",然后看着自己画的图继续推理,模拟人类"脑补画面"的思维过程。
Q2:MentalThink在SVG草图中画的是什么样的图?
A:MentalThink在推理中画的不是精美的装饰图,而是功能性的"思维草图",通常包括以某个参照物为中心的坐标系、房间内物体的相对位置分布、人物视角的方向标注,以及空间象限的划分。这些图很简洁,目的是帮助AI精确计算位置关系,而不是视觉上好看。
Q3:MentalThink比GPT-5的空间推理能力强吗?
A:在部分测试上超过了GPT-5。在MindCube三维空间推理测试上,MentalThink-RL得到76.0分,GPT-5是56.3分,差距将近20分。在VSIBench综合空间理解测试上,MentalThink得55.1分,GPT-5得55.0分,基本持平。不过在MMSI-Bench等其他测试上,GPT-5仍有优势,两者各有擅长的场景。