三步跑通 MediaPipe Hands:单帧视频实时定位 21 个手部关键点
【免费下载链接】mediapipeCross-platform, customizable ML solutions for live and streaming media.项目地址: https://gitcode.com/GitHub_Trending/med/mediapipe
想让你的摄像头看懂手势?MediaPipe Hands 只需一帧画面就能输出每只手 21 个三维关键点,双手同时跟踪不在话下。做手势控制、手语转文字、AR 捏取物体,从它入手最快。
🚀 快速上手:两条命令装好,八行代码跑起来
安装与环境准备
先装 Python 包(会自动带上 OpenCV 等依赖):
pip install mediapipe想看官方示例源码的话,把仓库拉下来:
git clone https://gitcode.com/GitHub_Trending/med/mediapipe最小可运行示例
下面这段是仓库文档里的最短版本,任何一张含手的图片都能跑:
import cv2, mediapipe as mp mp_hands = mp.solutions.hands with mp_hands.Hands(max_num_hands=2) as hands: image = cv2.imread("hand.jpg") rgb = cv2.cvtColor(image, cv2.COLOR_BGR2RGB) results = hands.process(rgb) print("hands:", len(results.multi_hand_landmarks))输出每只手的 21 个关键点坐标。把图片换成摄像头逐帧输入,就是实时手部追踪,不需要额外写任何滤波代码。
✋ 它凭什么好用:三个能力直接决定你能做什么
单帧定位 21 个三维关键点。你拿到的不是平面坐标,而是带深度的 3D 位置。用它算指节弯曲角度、判断"石头剪刀布"、还原手在空间里的远近,全都能做,不用再自己从 2D 图里瞎猜。
双手同时跟踪,甩手不断线。内部是两个模型接力:掌部检测模型先锁定手掌,关键点模型再在裁剪区域里精修;首帧之后靠上一帧结果定位,只有彻底丢手才重新全图检测。所以双手快速挥动、部分被遮挡时,追踪线条依然稳。
一套接口,多平台通用。Python、Android、iOS、JS 官方都支持 Hands 能力,接口命名基本一致。先用 Python 验证手势逻辑,再挪到手机 App 上,业务代码几乎不用改。
真实场景拆解
手势控制:抬起四根手指,页面自动翻页
讲 PPT 不再需要翻页笔。摄像头前摆一个"4"的手势,程序数到 4 就切到下一页;换成挥手手势,还能控制角色移动。检测到的手指姿态就是触发条件,延迟低到肉眼无感。
AR 与手语:不碰屏幕,也能"抓住"虚拟物体
在 AR 里让拇指和食指对准虚拟按钮做捏合动作,直接打开它、拖动它;空中虚拟键盘也一样,指尖划过就是打字。同一套 21 点数据接上手语词库,听障用户比一个手势,屏幕上实时跳出文字,交流门槛一下就低了。
进阶与生态
训练你自己的手势识别模型
如果"岩石、剪刀、布"不够用,MediaPipe Model Maker 里的手势识别器能把几百张照片变成你自己的手势分类器。示例目录 mediapipe/model_maker/python/vision/gesture_recognizer/ 里有完整演示脚本gesture_recognizer_demo.py,testdata 自带各手势的真实训练样本,比如这张"rock"手势照:
把样本换成你自己拍的照片跑一遍,训练完直接导出 tflite 模型上设备。
看懂流水线:图文件 + 模块 + 示例
整条追踪流水线就是可读可改的图文件:mediapipe/graphs/hand_tracking/ 里有桌面端和手机端现成的 pbtxt;核心关键点模型在 mediapipe/modules/hand_landmark/;可运行的桌面示例在mediapipe/examples/desktop/hand_tracking/。想加自己的绘制或滤波逻辑,从改图文件下手最顺。完整中文文档入口是 docs/solutions/hands.md。
MediaPipe Hands 把最难的检测与追踪做了,你只需要决定拿到 21 个点之后干什么。它不挑硬件,普通电脑和手机都跑得起,源码全部开放。建议下一步:先跑通上面那 8 行示例,对着自己的摄像头验证一遍;然后去mediapipe/model_maker/python/vision/gesture_recognizer/目录试训一个自己的手势模型;想深入原理,就打开mediapipe/graphs/hand_tracking/里的图文件逐节点看。
【免费下载链接】mediapipeCross-platform, customizable ML solutions for live and streaming media.项目地址: https://gitcode.com/GitHub_Trending/med/mediapipe
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考