Palmier Pro 语义搜索图解:用自然语言在素材库里搜索画面内容的完整指南
【免费下载链接】palmier-promacOS video editor built for AI项目地址: https://gitcode.com/GitHub_Trending/pa/palmier-pro
Palmier Pro是一款为 AI 而生的开源 macOS 视频编辑器,它的语义搜索功能让你用一句自然语言——比如"海边日落的慢镜头"——就能在素材库中找到对应的画面内容,而不必依赖文件名或逐个翻找。本文带你图解这套素材语义搜索的工作原理与使用方法。
什么是语义搜索:为什么它能"看懂"画面
传统搜索只能匹配文件名里的文字,而 Palmier Pro 的语义搜索基于SigLIP 2(一种 CLIP 风格的多模态模型),它把"画面"和"文字"映射到同一个向量空间:
- 每帧画面被编码成一个 768 维向量(视觉 Embedding)
- 你的搜索词也被编码成向量
- 两个向量做余弦相似度比较,越接近就说明画面越匹配你的描述
模型完全本地运行(通过 Core ML),首次使用时自动下载,无需联网即可完成检索,隐私性很好。模型说明见 models/siglip2/README.md 对应目录下的文档,下载配置与 SHA256 校验值定义在Sources/PalmierPro/Search/SearchIndexConfig.swift中。
语义搜索背后的三步流水线
Palmier Pro 的搜索由一条清晰的本地流水线驱动,核心代码都在Sources/PalmierPro/Search/目录下:
第 1 步:智能抽帧(FrameSampler.swift) 视频不是逐帧扫描,而是每 2 秒取一个候选帧,用亮度网格差分检测镜头切换。只有画面真正变化的帧才会被保留,长静态镜头也有保底覆盖,避免重复索引浪费算力。
第 2 步:向量化存储(VisualIndexer.swift) 抽出的帧交给视觉编码器生成向量,连同"时间戳 + 镜头起止范围"一起写入本地索引库。图片只需一次编码;索引按(文件 + 模型版本 + 采样器版本)幂等,换文件才会重建。
第 3 步:向量检索(VisualSearch.swift) 搜索时调用 Apple 的 Accelerate 框架(vDSP_mmul)做批量点积,毫秒级完成全库比对口。关键设计:同一个镜头只保留得分最高的那一帧,避免一个长镜头刷屏式霸占结果。
整个流程由SearchIndexCoordinator.swift排队调度:打开项目后自动为素材建立索引,导出视频时索引任务会自动让路,互不抢资源。
4 步在素材库中用自然语言找画面
Step 1|导入素材把视频、图片、音频拖进项目,打开项目后 Palmier Pro 会自动在后台建立视觉索引(素材面板可看到索引进度)。
Step 2|在素材面板输入搜索词在 Media 面板顶部的搜索框里,直接用一句话描述画面,例如:
穿红裙的女孩在雨中撑伞航拍城市夜景桌上特写的咖啡杯
Step 3|查看四类搜索结果结果会自动分成四个可折叠分区(实现见Sources/PalmierPro/MediaPanel/MediaTab/MediaTab+Search.swift):
| 分区 | 含义 |
|---|---|
| ✨ Moments | 语义匹配的画面片段(视频/图片) |
| 〰️ Spoken | 字幕/语音转写里匹配的文字 |
| 🎞️ Timelines | 名称匹配的时间线 |
| 📄 Files | 文件名匹配的文件 |
Step 4|拖入时间线,即搜即用每个命中的 Moment 卡片都标注了镜头起止时间码(如0:12–0:18),直接拖拽就能把这段素材精确投放到时间线,点击卡片可定位到对应源帧。
进阶:让 AI Agent 替你执行语义搜索
Palmier Pro 通过内置 MCP 服务器把语义搜索开放给了 Claude、Codex、Cursor 等 AI Agent。Agent 调用search_media工具时支持三个参数(实现见Sources/PalmierPro/Agent/Tools/ToolExecutor+Search.swift):
- query:自然语言描述
- scope:
visual(画面)/spoken(口播)/both - limit:返回条数(1–50)
也就是说你可以直接对 Agent 说:"找出素材库里所有雪山镜头,拖到 B 轨",它会自动完成搜索 + 时间码定位 + 拖入时间线,全程无需你手动翻素材。
写好搜索词的 3 个实用技巧 🎯
- 描述画面,不要描述意图——写"逆光、剪影、海浪"比写"很美的海边"更容易命中;
- 一个片段多关键词组合——"红色汽车 山路 俯拍"这类多实体描述正是多模态模型的强项;
- 搜不到先等索引——首次打开大项目时索引还在跑(后台队列),稍等片刻再搜,结果会完整得多;索引总开关在设置中,默认开启。
常见问题 FAQ
Q:搜索会上传我的视频吗?A:不会。模型与检索全部在本地 Apple Silicon 芯片上运行,视频帧不出设备。
Q:支持中文搜索吗?A:模型支持多语言文本编码,中文、英文等自然语言描述均可。
Q:音频能搜吗?A:画面语义搜索针对视频和图片;纯语音/口播内容走 Spoken 分区,基于转写文字匹配。
总结
Palmier Pro 的语义搜索把"找素材"从文件名匹配升级到了画面理解级别:SigLIP 2 模型本地抽帧编码 + 向量相似度检索,让你在素材库中用一句人话就能定位到具体的镜头片段,还能被 AI Agent 直接调用完成自动化剪辑。对于素材量大、翻找成本高的创作者,这是真正把时间还给创作的功能。
【免费下载链接】palmier-promacOS video editor built for AI项目地址: https://gitcode.com/GitHub_Trending/pa/palmier-pro
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考