插件目录 / Vision / dsh-plugin-multimodal
dsh-plugin-multimodal
已验证 · 实测可装 shinjiyu
功能简介
视觉伴生:在纯文本模型上接受粘贴图像
可用 — 实测通过,早期项目
视觉伴生:在纯文本模型上接受粘贴图像 实测能干净安装、正常启动。早期项目,但功能可用。
「已验证」表示我们的自动化 CI 在干净 profile 里实际执行了 dsh plugin add 并启动成功——仅此而已。功能描述与版本兼容性均为作者声明。这不是安全审计,也不代表对第三方代码的背书。
README
dsh-plugin-multimodal
DeepSeek Harness 官方线路是纯文本。Web 里贴图会被拒:当前模型不支持图片。
这个插件补的是贴图准入,不是视觉工具箱。
- 主模型本身收图(Claude / GPT / 自建视觉网关)→ 原样把图交给模型,不转文字
- 主模型是纯文本(官方 DeepSeek)→ GUI 先收下图,sidecar 转成文字再发给主模型
see_image给磁盘上的截图用
官方 PI adapter 已经会做第 1 步,不会做第 2 步:不支持就 UNSUPPORTED_CONTENT。Anionex 的 dsh-vision-toolkit 是另一条路:给 agent 一堆 vision_* 工具,要模型自己去调。本插件让粘贴不被拒。
对应需求:Discussions #588 · 介绍帖:Show and tell #1709
安装
dsh plugin --profile web add github:shinjiyu/dsh-plugin-multimodal
本地路径:
dsh plugin --profile web add D:\tempWorkspace\dsh-plugin-multimodal
然后重启 dsh web。旧会话的工具表不会更新。
GitHub topic:dsh-plugin
配置
环境变量(不要把 key 写进仓库):
| 变量 | 作用 |
|---|---|
DSH_VISION_BASE_URL |
视觉接口,例如 https://api.example/v1 |
DSH_VISION_API_KEY |
该接口的 key |
DSH_VISION_MODEL |
必须是真能看图的模型,例如 glm-4.5v |
DSH_VISION_PROMPT |
可选。默认 OCR + 描述界面 |
没设 DSH_VISION_* 时回退 OPENAI_BASE_URL / OPENAI_API_KEY。GLM-5.2-FP8 这类文本模型不能当 sidecar。
也可以在 profile 的 cordis.patch.yml 里写:
- id: dsh-plugin-multimodal
name: dsh-plugin-multimodal
inject: [llm, tools, attachments, systemPrompt]
config:
model: glm-4.5v
apiKeyEnv: DSH_VISION_API_KEY
30 秒验收
- 主模型仍用官方纯文本(或 PocketCity 文本模型)
- 配好一个真能看图的 sidecar
- 在 Web 里粘贴一张报错截图,问「红字说了什么」
- 过关:不再弹「当前模型不支持图片」,主模型能引用图上的字
磁盘文件:让它调 see_image。
不要做
- 不要改
runtime/或官方 DeepSeek adapter - 不要把 sidecar 指到
deepseek-v4-flash/ 其它纯文本模型 - 不要把它宣传成「视觉工具箱」——那是 toolkit 的词
社区
微信群:deepseek harness 讨论群(2群)
扫码进群,用来分享和讨论插件。不是官方群。

微信群码大约 7 天过期(本张到 2026-08-23)。过期后把新码覆盖 docs/community/wechat-group-2.jpg 即可。
宣发稿(Discussions / V2EX / 群公告)在 docs/PROMO.md。
License
MIT
安装
装一次目录插件,之后本站所有插件都能让 DeepSeek Harness 自动找、自动装:
dsh plugin add dshbase-catalog 然后对 agent 说「帮我装 dsh-plugin-multimodal」,它会在目录里找到并自动安装。文档:dshbase-catalog · 已验证场景包。
该插件是 GitHub 源码(未发 npm)——直接从仓库装:
Web profile:
dsh plugin --profile web add github:shinjiyu/dsh-plugin-multimodal Headless(CLI)profile:
dsh plugin --profile headless add github:shinjiyu/dsh-plugin-multimodal 实测报告
验证通过:从 GitHub 源码完成 L1 安装 + L2 加载 + L3 运行(dsh 0.1.0-rc.6)。
使用场景
给模型装上眼睛——图像理解、OCR 或屏幕定位——让它读视觉而非靠猜。
适合谁
会把截图、图表或照片交给模型、想被原生理解的人。
二次开发建议
视觉后端和预处理是缝——加 OCR、区域裁剪,或调分辨率和模型路由。