截图是用户向聊天机器人发送的高频内容,也是快速获取信息、避免手动输入的关键方式。图像理解能力因此成为用户付费订阅Claude或Gemini等旗舰服务的主要驱动力。相比之下,受限于显存(如8GB)和上下文长度,小型本地模型在视觉处理上往往被视为短板。然而,最新测试显示,本地小模型在纸面数据上已迎头赶上。

为验证其实际竞争力,作者在配备RTX 3070显卡(8GB显存)的设备上,使用相同的截图和照片对9B参数量的模型进行了测试。

Qwythos 9B:视觉能力的来源与局限

受硬件限制,测试选用了Qwythos 9B v2。这是Empero AI社区基于阿里巴巴Qwen 3.5 9B微调的版本,采用FTPO技术以减少循环现象并保留推理能力。值得注意的是,该微调仅针对文本侧,视觉部分保持冻结状态,继承了Qwen原有的视觉塔结构。

官方数据显示,Qwen在OCR Bench(图像文字读取)中得分为89.2,在ScreenSpot Pro(UI元素定位)中得分为65.2。实际体验与之相符:该模型在图像文字提取方面表现良好,但在复杂UI交互理解上并非最强。运行方面,Qwythos的Q4_K_M版本大小为5.74GB,加上约0.9GB的视觉投影器文件,仍能在8GB显存设备上流畅运行。

本地小模型 vs 旗舰云服务

在与Claude Opus和Gemini Flash的对比中,Qwythos的表现因任务类型而异:

  • 文本密集型截图:表现卓越。在从繁忙桌面截图中提取聊天回复时,Qwythos几乎逐行复制,准确率与Opus相当,而Gemini甚至抓取了错误区域。在处理文件和文件夹截图时,它不仅能顺利识别标签和数字,还能发现文件扩展名不匹配的问题。
  • 复杂视觉决策:表现略显不稳。在视频编辑器弹窗测试中,Qwythos虽正确读取了所有信息并解释了按钮功能,但未像Opus那样指出“文件名与时间轴剪辑不匹配”的核心逻辑问题,也未给出具体操作建议。不过,其生成速度约为每秒20个token,且支持通过本地设置调整回答篇幅,具备云端模型缺乏的灵活性。

总体而言,若主要需求是通过截图避免重新输入文字,运行在8GB显卡上的9B模型完全能够胜任。

隐私优势与订阅价值重估

对于涉及药物照片、个人文件名、登录信息、账单或合同等敏感内容的截图,本地模型具有显著优势:既能准确提取信息,又无需担忧隐私政策或数据被用于模型训练。

有趣的是,Qwythos最出色的工作恰恰集中在那些不需要复杂“思维链”推理的任务上。鉴于Claude已承担繁重工作,而Qwythos完美覆盖了私人截图处理需求,作者表示本月未续订Gemini,并开始质疑继续支付订阅费用的必要性。这一趋势表明,强大的本地OCR能力已能覆盖大部分日常场景,削弱了用户对旗舰云端服务的依赖。