Qwen2-VL-2B-Instruct 量化，使用更少的显存运行

首先在魔搭社区搜索了一下 Qwen2-VL 相关的：https://www.modelscope.cn/models?name=Qwen2-VL

然后发现了这些 2B 的量化版本

首选 int4 查看：https://www.modelscope.cn/models/Qwen/Qwen2-VL-2B-Instruct-GP...