Qwen3.8-27B-Cold-Fusion-GGUF：多模态图文转换量化版
DavidAU 发布 Qwen3.8-27B Cold-Fusion GGUF 量化版，支持图文双输入与文本输出，提供 MTP 与常规两类量化文件，社区下载量逾 62 万次。本文梳理其微调策略、硬件需求与上手要点，并说明如何在 ComfyUI 工作流中接入 GGUF 加载节点，完成本地部署与图文理解任务。适合离线内网教学演示与素材标注辅助。
查看原文 →内容为平台聚合整理，原文与最新动态以来源页面为准。
扫码进学习交流群
加专属老师微信图文介绍
项目定位
DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF 是基于 Qwen3 系列基座二次调优的多模态模型 GGUF 量化发布版本，任务类型为 image-text-to-text，可同时接收图像与文本输入并输出文本结果。该版本由社区作者 DavidAU 结合 GAIN Training 与 COLD-FUSION 微调流程训练，同时提供 MTP GGUF 量化与常规 GGUF 量化两类文件形态，便于按硬件条件选择部署方案。当前社区下载量已超过 62 万次。
核心功能亮点
- 图文双输入：支持图像与文本混合输入，可完成图像描述、图表解读、截图问答等任务。
- 两类量化并行：MTP GGUF Quants 与 Regular GGUF Quants 同时发布，便于在推理速度与显存占用之间取舍。
- 微调策略组合：GAIN Training 与 COLD-FUSION 微调叠加，侧重对话连贯性与指令跟随表现。
- 生态兼容：GGUF 格式可对接 llama.cpp、LM Studio 等本地推理环境，也便于在 ComfyUI 中通过 GGUF 加载节点接入工作流。
适用场景
- 本地部署的图文问答、文档截图解析与内容摘要。
- 设计、电商素材的批量图文描述与标注辅助。
- ComfyUI 工作流中承担提示词润色、图文理解等辅助角色。
- 离线或内网环境下的教学演示与课程案例。
上手提示
- 该模型参数量较大，对显存要求偏高，建议先用低比特量化版本试跑，再按实际效果调整。
- 将 GGUF 文件放入所用推理工具的 models 目录；在 ComfyUI 中使用时需搭配支持 GGUF 的加载节点，并配置对应的视觉投影文件。
- 多模态能力依赖视觉侧文件，缺失时只能进行纯文本推理。
- 微调模型的输出风格可能与基座存在差异，建议先用少量样本验证，再投入批量生产环节。
常见问题
它是基于 Qwen3 系列基座二次调优的多模态模型量化发布版本，任务类型为 image-text-to-text，可同时接收图像与文本输入并输出文本结果。该版本由社区作者 DavidAU 结合 GAIN Training 与 COLD-FUSION 微调流程训练，并提供 MTP GGUF 与常规 GGUF 两类量化文件，便于按硬件条件选择部署方案。
模型参数量较大，整体显存占用偏高，普通显卡建议先选择比特数较低的量化文件试跑，再根据生成速度与显存占用逐步调整。若显存紧张，可缩短上下文长度、降低并发，或改用更小参数量的模型完成同类图文理解任务。
将 GGUF 文件放入所用推理工具的 models 目录，在 ComfyUI 中搭配支持 GGUF 的加载节点接入工作流，同时配置对应的视觉投影文件。这样可以在提示词润色、图文描述、截图问答等环节中作为辅助节点使用，具体节点名称与接线方式随插件版本不同而有所差异。
两类文件同时发布，区别主要在推理速度与显存占用之间的取舍。若更看重响应速度且硬件条件允许，可优先测试 MTP 版本；若显存受限或需要更稳妥的兼容表现，可先使用常规量化版本对比实际效果，再决定长期使用哪一类。
多模态能力依赖视觉侧文件，若只加载了语言模型部分而缺少对应的视觉投影文件，模型就只能进行纯文本推理。请检查视觉相关文件是否放置完整、加载节点是否已正确指向该文件，并确认所用推理工具版本支持多模态输入。