dshbase

插件目录 / Vision / dsh-plugin-multimodal

dsh-plugin-multimodal

已验证 · 实测可装 shinjiyu

✓ 持续维护 纯 TypeScript

查看 GitHub ↗ ← 返回插件目录

3Stars
0Forks
0未关闭 issue
TypeScript语言
2026-08-16最近推送
跨平台平台

功能简介

视觉伴生:在纯文本模型上接受粘贴图像

✅
我们的评价
可用 — 实测通过,早期项目

视觉伴生:在纯文本模型上接受粘贴图像 实测能干净安装、正常启动。早期项目,但功能可用。

「已验证」表示我们的自动化 CI 在干净 profile 里实际执行了 dsh plugin add 并启动成功——仅此而已。功能描述与版本兼容性均为作者声明。这不是安全审计,也不代表对第三方代码的背书。

README

dsh-plugin-multimodal

Awesome DSH Plugin

DeepSeek Harness 官方线路是纯文本。Web 里贴图会被拒:当前模型不支持图片。

这个插件补的是贴图准入,不是视觉工具箱。

  1. 主模型本身收图(Claude / GPT / 自建视觉网关)→ 原样把图交给模型,不转文字
  2. 主模型是纯文本(官方 DeepSeek)→ GUI 先收下图,sidecar 转成文字再发给主模型
  3. see_image 给磁盘上的截图用

官方 PI adapter 已经会做第 1 步,不会做第 2 步:不支持就 UNSUPPORTED_CONTENT。Anionex 的 dsh-vision-toolkit 是另一条路:给 agent 一堆 vision_* 工具,要模型自己去调。本插件让粘贴不被拒。

对应需求:Discussions #588 · 介绍帖:Show and tell #1709

安装

dsh plugin --profile web add github:shinjiyu/dsh-plugin-multimodal

本地路径:

dsh plugin --profile web add D:\tempWorkspace\dsh-plugin-multimodal

然后重启 dsh web。旧会话的工具表不会更新。

GitHub topic:dsh-plugin

配置

环境变量(不要把 key 写进仓库):

变量 作用
DSH_VISION_BASE_URL 视觉接口,例如 https://api.example/v1
DSH_VISION_API_KEY 该接口的 key
DSH_VISION_MODEL 必须是真能看图的模型,例如 glm-4.5v
DSH_VISION_PROMPT 可选。默认 OCR + 描述界面

没设 DSH_VISION_* 时回退 OPENAI_BASE_URL / OPENAI_API_KEY。GLM-5.2-FP8 这类文本模型不能当 sidecar。

也可以在 profile 的 cordis.patch.yml 里写:

- id: dsh-plugin-multimodal
  name: dsh-plugin-multimodal
  inject: [llm, tools, attachments, systemPrompt]
  config:
    model: glm-4.5v
    apiKeyEnv: DSH_VISION_API_KEY

30 秒验收

  1. 主模型仍用官方纯文本(或 PocketCity 文本模型)
  2. 配好一个真能看图的 sidecar
  3. 在 Web 里粘贴一张报错截图,问「红字说了什么」
  4. 过关:不再弹「当前模型不支持图片」,主模型能引用图上的字

磁盘文件:让它调 see_image。

不要做

  • 不要改 runtime/ 或官方 DeepSeek adapter
  • 不要把 sidecar 指到 deepseek-v4-flash / 其它纯文本模型
  • 不要把它宣传成「视觉工具箱」——那是 toolkit 的词

社区

微信群:deepseek harness 讨论群(2群)

扫码进群,用来分享和讨论插件。不是官方群。

微信群二维码

微信群码大约 7 天过期(本张到 2026-08-23)。过期后把新码覆盖 docs/community/wechat-group-2.jpg 即可。

宣发稿(Discussions / V2EX / 群公告)在 docs/PROMO.md。

License

MIT

安装

🧩 让 Agent 自动装(推荐)

装一次目录插件,之后本站所有插件都能让 DeepSeek Harness 自动找、自动装:

dsh plugin add dshbase-catalog

然后对 agent 说「帮我装 dsh-plugin-multimodal」,它会在目录里找到并自动安装。文档:dshbase-catalog · 已验证场景包。

该插件是 GitHub 源码(未发 npm)——直接从仓库装:

Web profile:

dsh plugin --profile web add github:shinjiyu/dsh-plugin-multimodal

Headless(CLI)profile:

dsh plugin --profile headless add github:shinjiyu/dsh-plugin-multimodal

实测报告

验证通过:从 GitHub 源码完成 L1 安装 + L2 加载 + L3 运行(dsh 0.1.0-rc.6)。

使用场景

给模型装上眼睛——图像理解、OCR 或屏幕定位——让它读视觉而非靠猜。

适合谁

会把截图、图表或照片交给模型、想被原生理解的人。

二次开发建议

视觉后端和预处理是缝——加 OCR、区域裁剪,或调分辨率和模型路由。

安全:尚未扫描——我们的每日静态扫描将很快覆盖它。

分享徽章

Vision 里更多

浏览全部 7797 个插件 →