手势交互
- 中文名
- 手势交互
- 英文名
- Gesture Interaction
- 所属领域
- 人机交互(HCI)
- 输入通道
- 手部动作(触控、空中手势、手势识别)
- 典型形态
- 触控手势、空中手势、混合手势
- 关键技术
- 手势识别、手势理解、手势跟踪
- 典型应用
- 移动终端、虚拟现实、智能座舱、视频应用
手势交互是指用户通过手部动作(如滑动、点击、空中手势等)向系统输入指令、控制系统运行的人机交互方式,手势作为一种输入通道已广泛应用于人机交互、虚拟现实等领域。11手势识别与交互综述coaa.istic.ac.cn前往参考资料 ↓在新标签页中打开|22动态手势理解与交互综述cnki.com.cn前往参考资料 ↓在新标签页中打开
定义与基本概念
手势作为输入通道
手势作为输入通道,指用户通过手部(手指、手掌、手臂)的静态姿势或动态运动,向计算系统传达指令、参数或连续控制量的一类人机交互方式;其输入信号通常来自视觉摄像头、深度传感器、惯性测量单元或触摸/近场传感阵列。55Hand Gesture Recognition: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|66A survey of hand gesture recognition: from 3D sensing to deep learningsciencedirect.com前往参考资料 ↓在新标签页中打开
在输入通道的分类框架中,手势与语音、视线、触控、键盘、笔输入并列,属于「非接触式、高维度、富表达」的一类通道;与离散的按键事件不同,手势通道天然输出的是带时间维度的轨迹或姿态序列,需要经过分割、特征提取与分类才能映射为离散命令。55Hand Gesture Recognition: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|77Gesture-based interaction: a surveydl.acm.org前往参考资料 ↓在新标签页中打开
手势作为输入通道的核心概念区分是「静态手势(posture)」与「动态手势(gesture)」:前者由某一时刻的手部构型决定,后者由一段时间内的运动轨迹决定;这一区分直接决定了识别方法的选择(静态多用分类器,动态多用序列模型或模板匹配)。66A survey of hand gesture recognition: from 3D sensing to deep learningsciencedirect.com前往参考资料 ↓在新标签页中打开|88Hand gesture recognition: a literature reviewlink.springer.com前往参考资料 ↓在新标签页中打开
手势通道的另一组基本概念是「命令型手势」与「操控型手势」:命令型手势用于触发离散动作(如确认、返回),操控型手势用于连续调节参数(如音量、缩放),后者要求系统提供实时反馈回路,因而对延迟和抖动更敏感。77Gesture-based interaction: a surveydl.acm.org前往参考资料 ↓在新标签页中打开|99A survey on gesture recognition for human-computer interactionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
「手势词汇表(gesture vocabulary)」与「手势空间(gesture space)」是设计手势输入通道时的基础概念:前者指系统可识别的全部手势集合,后者指由手部自由度构成的连续参数空间;词汇表的大小、手势间的可区分度与用户记忆负担之间存在权衡。88Hand gesture recognition: a literature reviewlink.springer.com前往参考资料 ↓在新标签页中打开|1010Gesture interaction design: a review of gesture vocabulary and usabilitysciencedirect.com前往参考资料 ↓在新标签页中打开
手势作为输入通道通常需要与「分割(segmentation)」概念配套:系统必须判定手势的起止边界(例如手进入传感区域、保持静止或做出特定起始姿态),否则连续传感流无法被切分为有意义的输入事件。66A survey of hand gesture recognition: from 3D sensing to deep learningsciencedirect.com前往参考资料 ↓在新标签页中打开|99A survey on gesture recognition for human-computer interactionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
在「直接操控」与「间接操控」的区分中,手势通道既可用于直接触摸/指向屏幕上的目标,也可在远离屏幕的空间中做间接操控;间接手势因缺乏物理接触反馈,通常需要额外的视觉或触觉反馈来确认输入已被识别。77Gesture-based interaction: a surveydl.acm.org前往参考资料 ↓在新标签页中打开|1010Gesture interaction design: a review of gesture vocabulary and usabilitysciencedirect.com前往参考资料 ↓在新标签页中打开
「悬停(hover)」与「预激活(pre-activation)」是手势输入通道中常见的中间状态概念:手进入传感范围但尚未触发命令时,系统可进入悬停态并给出高亮或光标反馈,以降低误触发率并帮助用户确认当前可交互对象。99A survey on gesture recognition for human-computer interactionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|1111Multimodal interaction with gesture, speech and gaze: a surveydl.acm.org前往参考资料 ↓在新标签页中打开
手势作为输入通道的一个基本属性是「模态混合」:它很少单独使用,常与语音、视线、触控组合成多模态输入,例如「手指指向+语音命名」的互补组合,用以消解单一通道的歧义。55Hand Gesture Recognition: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|1111Multimodal interaction with gesture, speech and gaze: a surveydl.acm.org前往参考资料 ↓在新标签页中打开
从信息论角度看,手势通道的带宽高于离散按键但低于语音,且其表达力受限于用户动作的可重复性与系统识别的鲁棒性;因此在实际系统中,手势词汇表通常被控制在十余个到数十个手势的量级,而非无限扩展。88Hand gesture recognition: a literature reviewlink.springer.com前往参考资料 ↓在新标签页中打开|1010Gesture interaction design: a review of gesture vocabulary and usabilitysciencedirect.com前往参考资料 ↓在新标签页中打开
触控手势与空中手势的区分
触控手势与空中手势最根本的区分在于输入通道的物理接触性:触控手势由手指与触摸表面直接接触产生,系统可获得接触点的坐标、压力、速度等确定性数值;空中手势则在无接触的空间中完成,系统只能依据传感器采集的手部运动信号推断用户意图。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
由于触控手势的输入信号是直接测量得到的确定量,其识别主要处理的是坐标序列的几何与时间特征;而空中手势的输入是间接观测,识别过程包含对动作语义的猜测成分,因此对识别准确率的要求更高,否则用户不敢将删除等高风险操作交给它。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
空中手势的常见基础动作集合包括点指(Air Tap)、捏合(Pinch)、抓取(Grab)、松手(Release)、滑移(Swipe/Slide)、挥动(Wave)与双手缩放(Two-hand Scale),这些动作在空间中可被稳定识别且用户容易理解,数量并不多。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
空中手势的语义映射强调动作与语义之间要有物理隐喻,例如抓取对应拿起、松手对应放下、两手拉开对应放大,用户凭直觉即可猜对;若一个手势的语义需要教程才能记住,它在真实场景中基本不会被用起来。这一原则是空中手势区别于可自定义触控手势的重要设计约束。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
手势交互的分类
静态手势与动态手势
静态手势指手部姿态在某一时刻保持相对稳定、不依赖明显时间运动信息的手势,识别时通常以单帧或短时间窗口内的手形、手指屈伸状态和手掌朝向作为判别依据。1313A survey on hand gesture recognition based on computer visionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
动态手势指包含明显时间演化过程的手势,其语义由手部轨迹、速度、加速度以及姿态序列共同决定,识别时需要处理连续帧之间的时序依赖关系。1414Dynamic Hand Gesture Recognition: A Surveysciencedirect.com前往参考资料 ↓在新标签页中打开
在基于视觉的手势识别文献中,静态手势识别常被建模为图像分类问题,动态手势识别则常被建模为序列建模问题,两者在特征提取与分类器设计上形成不同的技术路线。1313A survey on hand gesture recognition based on computer visionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|1414Dynamic Hand Gesture Recognition: A Surveysciencedirect.com前往参考资料 ↓在新标签页中打开
静态手势与动态手势的划分并非绝对:同一手势在不同交互语境下可能被当作静态手形或动态轨迹处理,实际系统常根据交互任务的时间尺度与识别延迟要求选择建模方式。1515Gesture Interaction in Automotive User Interfaces: A Reviewmdpi.com前往参考资料 ↓在新标签页中打开
静态手势识别的主要难点在于类间差异小、光照与视角变化以及手部自遮挡;动态手势识别的主要难点则在于时序对齐、起止点检测和不同执行速度下的鲁棒性。1313A survey on hand gesture recognition based on computer visionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|1414Dynamic Hand Gesture Recognition: A Surveysciencedirect.com前往参考资料 ↓在新标签页中打开|1515Gesture Interaction in Automotive User Interfaces: A Reviewmdpi.com前往参考资料 ↓在新标签页中打开
触控手势
触控手势是指用户在触摸屏或触控板上通过手指或触控笔的接触、移动、抬起等动作所形成的手势,其识别依赖于对触点轨迹、压力、速度等参数的实时解析。1616Touch Gesture Recognition: A Reviewieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
按触点数量,触控手势可分为单点手势(如点击、长按、拖动)和多点手势(如双指缩放、旋转、三指滑动)。1717Multi-Touch Gesturesdeveloper.android.com前往参考资料 ↓在新标签页中打开
常见的触控手势包括:点击(Tap)、双击(Double Tap)、长按(Long Press)、拖动(Drag)、滑动(Swipe)、捏合(Pinch)、旋转(Rotate)等,这些手势已成为移动操作系统和触控应用的标准交互词汇。1818Human Interface Guidelines: Gesturesdeveloper.apple.com前往参考资料 ↓在新标签页中打开
空中手势
空中手势指用户手部不接触任何物理表面、在自由空间中完成动作,由传感器采集手部运动后由系统推断其语义的交互方式;与触摸手势相比,空中手势缺少接触点带来的确定坐标、压力与速度数值,识别结果本质上是系统对动作意图的推断。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
在空间环境中能够稳定识别、且用户容易理解的基础空中手势数量有限,常见类别包括点指(Point / Air Tap)、捏合(Pinch)、抓取(Grab)、松手(Release)、滑移(Swipe / Slide)、挥动(Wave)与双手缩放(Two-hand Scale)。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
点指(Point / Air Tap)通常以食指前伸或轻点完成,语义等价于单击,是空中手势中最轻量的选择动作。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
捏合(Pinch)由拇指与食指合拢构成,在空中手势中通常映射为确认、拾取或缩放操作。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
抓取(Grab)以整只手呈抓握状完成,用于“拿起”一个对象并使其跟随手部移动;松手(Release)由抓握状态张开完成,用于放下对象并触发落位。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
滑移(Swipe / Slide)指手掌沿某一方向平移,常用于翻页、切换与推动;挥动(Wave)指左右摆动,常用于呼出或收起系统级面板;双手缩放(Two-hand Scale)依据两手之间的距离变化实现整体缩放与旋转。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
空中手势的语义映射通常遵循物理隐喻原则:抓取对应“拿起”、松手对应“放下”、两手拉开对应“放大”,使用户无需专门学习即可凭直觉猜出动作含义;反之,若某个手势的语义必须依赖教程才能记住,它在真实场景中往往难以被实际使用。1212HarmonyOS 7手势识别交互:空中手势的语义与容错设计developer.huawei.com前往参考资料 ↓在新标签页中打开
混合手势
混合手势(hybrid gesture)指在同一个交互任务中同时或交替使用多种手势模态(如静态姿态与动态轨迹、单手与双手、手部与身体其他部位)的输入方式,其识别需要融合来自不同模态或不同时间片段的特征,而非依赖单一手势单元。2121Multimodal Interfaces: A Survey of Principles, Models and Frameworkslink.springer.com前往参考资料 ↓在新标签页中打开
在分类学上,混合手势常被与“组合手势”(composite gesture)区分:组合手势强调多个离散手势按顺序拼接成命令序列,而混合手势强调不同模态特征在同一手势事件内的并行融合。2121Multimodal Interfaces: A Survey of Principles, Models and Frameworkslink.springer.com前往参考资料 ↓在新标签页中打开|2222Multimodal human–computer interaction: A surveysciencedirect.com前往参考资料 ↓在新标签页中打开
按参与模态划分,混合手势可分为手部姿态与手部运动混合、双手协同混合、手部与语音混合、手部与视线/头部混合等类型;其中手部与语音的混合(“指+说”)是文献中研究最充分的跨模态混合形式。2222Multimodal human–computer interaction: A surveysciencedirect.com前往参考资料 ↓在新标签页中打开|2323Put-that-there: Voice and gesture at the graphics interfacedl.acm.org前往参考资料 ↓在新标签页中打开
Bolt 于 1980 年提出的“Put-that-there”系统是跨模态混合输入的开创性工作,它把指点和语音指示词结合,用于在空间大屏上选择与移动对象,被视为手势与语音混合交互的早期原型。2323Put-that-there: Voice and gesture at the graphics interfacedl.acm.org前往参考资料 ↓在新标签页中打开
Oviatt 等人的研究指出,在空间任务中用户会自发地把语音与笔/手势输入组合使用,且这种多模态组合能减少指代歧义、提高任务效率,为混合手势的可用性提供了实证基础。2424Multimodal interfaces that process what comes naturallydl.acm.org前往参考资料 ↓在新标签页中打开
在技术实现上,混合手势识别通常采用多流特征融合架构:对各模态分别提取特征后,在特征层(早期融合)、决策层(晚期融合)或模型中间层(中期融合)进行融合,再交由分类器或序列模型输出命令。2525Multimodal Machine Learning: A Survey and Taxonomyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
由于混合手势涉及多模态时序对齐问题,基于循环神经网络或 Transformer 的序列建模方法被广泛用于处理不同模态在时间上不同步、时长不一致的输入。2525Multimodal Machine Learning: A Survey and Taxonomyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|2626A survey of multimodal gesture recognitionsciencedirect.com前往参考资料 ↓在新标签页中打开
混合手势的一个主要设计难点是“分割与切分”(segmentation):系统需要判断用户何时开始、结束一个混合手势单元,并区分有意的组合输入与无意的手部动作,误触发是实际部署中的常见问题。2222Multimodal human–computer interaction: A surveysciencedirect.com前往参考资料 ↓在新标签页中打开|2626A survey of multimodal gesture recognitionsciencedirect.com前往参考资料 ↓在新标签页中打开
在智能座舱场景中,混合手势被用于降低单一模态的歧义,例如以指向动作配合语音指令选择车窗或空调出风口,从而在驾驶分心约束下减少所需的交互轮次。2727In-car multimodal interaction: gesture and speech for infotainment controlsciencedirect.com前往参考资料 ↓在新标签页中打开
现有研究普遍认为,混合手势相比单一手势能扩大可表达的命令空间并降低误识别率,但其代价是更高的认知负荷与更复杂的系统实现,是否在所有场景下都优于单一模态仍缺乏统一定论。2222Multimodal human–computer interaction: A surveysciencedirect.com前往参考资料 ↓在新标签页中打开|2424Multimodal interfaces that process what comes naturallydl.acm.org前往参考资料 ↓在新标签页中打开
对立说法部分研究认为,在简单、高频的交互任务中,单一手势或单一语音已足够高效,引入混合模态反而增加用户学习成本与系统复杂度,收益有限。30
技术原理与识别方法
手势采集与跟踪
手势采集与跟踪是手势交互流水线的第一环,其任务是把用户手部的物理状态(位置、姿态、关节角度、运动轨迹)转换为可供后续识别与语义映射使用的数字表示;采集质量与跟踪稳定性直接决定后续手势分类的上限。2828Hand Gesture Recognition: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
按传感介质划分,手势采集主要有三条技术路线:基于视觉的采集(可见光相机、深度相机)、基于可穿戴惯性/弯曲传感器的采集,以及基于雷达、电容、超声等非视觉主动传感的采集;三者在精度、成本、佩戴负担与光照鲁棒性上各有取舍。2828Hand Gesture Recognition: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|2929A Survey on Hand Gesture Recognition Using Wearable Sensorsmdpi.com前往参考资料 ↓在新标签页中打开
MediaPipe Hands 是 Google 提出的轻量级手部关键点检测方案,采用两阶段流水线:先用掌部检测器(palm detector)在整幅图像上定位手部,再由关键点模型回归 21 个三维手部关键点,可在移动端 CPU 上实时运行。3030MediaPipe Hands: On-device Real-time Hand Trackingarxiv.org前往参考资料 ↓在新标签页中打开
基于惯性测量单元(IMU)与弯曲传感器的手套式采集方案直接测量手指关节角度与手部加速度,不受光照与遮挡影响,但需要用户佩戴设备,且长期佩戴的舒适性与传感器漂移是其主要局限。2929A Survey on Hand Gesture Recognition Using Wearable Sensorsmdpi.com前往参考资料 ↓在新标签页中打开
毫米波雷达手势采集利用多普勒与距离信息感知手部运动,可穿透部分非金属材料且不采集可识别的图像,在隐私敏感场景与车载场景中受到关注;其局限在于空间分辨率低于光学方案,难以精细还原手指姿态。3131Soli: Ubiquitous Gesture Sensing with Millimeter Wave Radardl.acm.org前往参考资料 ↓在新标签页中打开
手势跟踪的核心难点包括自遮挡(手指相互遮挡)、高自由度(手部约 20 余个自由度)、快速运动导致的运动模糊,以及不同肤色、光照与背景带来的域偏移;这些因素使手部姿态估计的精度显著低于人体姿态估计。3232Monocular 3D Hand Pose Estimation with Temporal Consistencyarxiv.org前往参考资料 ↓在新标签页中打开
为提升时序稳定性,手势跟踪普遍引入时间维度的约束:一类做法是对逐帧检测结果做滤波与平滑(如卡尔曼滤波、One Euro 滤波),另一类做法是直接使用时序模型(RNN、Transformer 或视频骨干网络)在连续帧上联合估计手部姿态。3232Monocular 3D Hand Pose Estimation with Temporal Consistencyarxiv.org前往参考资料 ↓在新标签页中打开|3333One Euro Filter: A Simple Speed-based Low-pass Filter for Noisy Input in Interactive Systemsdl.acm.org前往参考资料 ↓在新标签页中打开
手势识别与手势理解
基于视觉的手势识别(Vision-based Hand Gesture Recognition, HGR)是人机交互中的一类方法,它让用户以非接触的方式与数字系统交互,因而不需要佩戴或握持任何物理设备。3434A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
在技术路线上,基于视觉的手势识别系统可依据其内在方法分为若干类,包括二维/三维姿态估计、指尖位置检测等;这些方法构成当前视觉手势识别系统的主要技术分支。3434A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
基于深度学习的方法
基于深度学习的手势识别方法,其基本思路是用多层神经网络直接从原始或轻度预处理的输入(RGB 图像、深度图、骨架关节点序列、表面肌电信号等)中学习特征表示与分类边界,从而替代传统流程中人工设计的特征(如 HOG、SIFT、肤色分割、几何矩)与分步的检测—跟踪—分类流水线。3535A Comprehensive Review of Real-Time Hand Gesture Recognition using Neural Networksieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|3636A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
在综述文献的划分口径中,实时手势识别的方法首先被分为基于视觉(vision-based)与非基于视觉(non-vision-based)两大阵营,神经网络方法在两大阵营中均有应用;基于视觉的一支依托摄像头采集图像或视频,无需用户佩戴额外设备,是当前消费级交互场景的主流路线。3535A Comprehensive Review of Real-Time Hand Gesture Recognition using Neural Networksieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|3636A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
卷积神经网络(CNN)是静态手势与单帧手部姿态识别中最常用的一类深度模型:它通过局部感受野与权值共享逐层提取边缘、纹理到语义部件的层次化特征,对光照变化和手部尺度变化具有一定鲁棒性,常被用作手部区域分类或手部关键点热力图回归的骨干网络。3535A Comprehensive Review of Real-Time Hand Gesture Recognition using Neural Networksieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
对于动态手势,循环神经网络(RNN)及其门控变体 LSTM、GRU 被用于对骨架关节点或手部特征序列建模,捕捉手势在时间维度上的演化;三维卷积网络(3D CNN)与双流网络则直接从视频体素或光流中同时学习时空特征,二者构成动态手势识别的两条主要技术路径。3535A Comprehensive Review of Real-Time Hand Gesture Recognition using Neural Networksieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
基于骨架的手势识别通常先用姿态估计或手部关键点检测模型(如从单目 RGB 图像回归 2D/3D 手部关节点)得到关节坐标序列,再将对关节坐标的建模交给图卷积网络或序列网络,这种两阶段做法把「手在哪里、怎么摆」与「这个姿势是什么意思」解耦,降低了对背景与肤色的敏感度。3636A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
在实时性要求下,深度学习手势识别普遍面临模型精度与推理延迟的权衡:为满足交互所需的低延迟,常采用轻量化骨干网络、模型剪枝与量化、关键帧采样或降低输入分辨率等手段,代价是细粒度手势(如相近手指组合)的区分能力下降。3535A Comprehensive Review of Real-Time Hand Gesture Recognition using Neural Networksieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
深度学习手势识别的主要工程难点包括:训练数据依赖大规模带标注数据集而手势类别标注成本高、不同用户的手型与肤色造成跨域泛化困难、遮挡与自遮挡导致关键点缺失、以及背景杂乱与光照变化引起的误检。3535A Comprehensive Review of Real-Time Hand Gesture Recognition using Neural Networksieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|3636A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
发展演进
早期手势输入研究
早期手势输入研究可追溯至 20 世纪 60 年代 Sutherland 的 Sketchpad 系统,该系统使用光笔在 CRT 屏幕上直接绘制和操作图形,被视为直接操纵界面的先驱,但其输入设备是笔而非自由手势。3737Sketchpad: A man-machine graphical communication systemdl.acm.org前往参考资料 ↓在新标签页中打开
1980 年,Bolt 在 MIT 提出了“Put-That-There”系统,首次将语音命令与手部指向手势结合,用于在大型投影屏幕上操纵图形对象,这是多模态手势交互的早期标志性工作。2323Put-that-there: Voice and gesture at the graphics interfacedl.acm.org前往参考资料 ↓在新标签页中打开
1991 年,Wellner 在 Xerox PARC 提出了“DigitalDesk”概念,利用摄像头和投影仪将物理桌面与数字文档融合,并通过手指和笔的交互实现文档操作,推动了基于视觉的手势交互研究。3838The DigitalDesk calculator: Tangible manipulation on a desk top displaydl.acm.org前往参考资料 ↓在新标签页中打开
1990 年代,Krueger 的 Videoplace 系统使用摄像头捕捉用户轮廓,实现无需佩戴标记的自由手势交互,被视为计算机视觉手势交互的早期探索。3939Videoplace—An artificial realitydl.acm.org前往参考资料 ↓在新标签页中打开
1990 年代中期,Freeman 等人提出了基于方向直方图的手势识别方法,利用图像梯度方向分布进行手势分类,为后续基于视觉的手势识别奠定了基础。4040Orientation histograms for hand gesture recognitionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
1997 年,Starner 和 Pentland 发表了关于使用隐马尔可夫模型(HMM)进行连续美国手语识别的论文,展示了基于视觉的手势序列建模的可行性。4141Real-time American Sign Language recognition from video using hidden Markov modelsieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
深度学习推动的突破
深度学习进入手势交互领域后,识别范式从依赖人工设计特征(如肤色分割、轮廓矩、HOG 等)的浅层分类器,转向由数据驱动、端到端学习的深度网络;卷积神经网络(CNN)成为静态手势分类与手部关键点检测的主流骨干,使识别在自建与公开数据集上的准确率显著提升。4444Referencesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
手势识别在深度学习方法下被细分为两类任务:手势分类(gesture classification,判定手势类别)与手势估计(gesture estimation,回归手部姿态/关键点);这一任务划分成为后续模型设计与评测的基本框架。4444Referencesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
手势在形式上被建模为姿态的时间序列,即由若干帧手部姿态构成的有序序列;这一序列化表示使循环神经网络、时序卷积与注意力机制等序列模型得以直接用于动态手势识别。4444Referencesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
Transformer 架构最初为自然语言处理而设计,近年来被引入计算机视觉,并在手势识别与手部关键点检测中展现出显著潜力;其自注意力机制能够同时捕捉手部关节之间的空间依赖与手势动作的时间依赖,因而适合处理复杂手部运动。4545Attention at Hand: A Comprehensive Survey of Transformer-based Hand Gesture and Landmark Detection Modelsieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
在手势识别领域,Transformer 驱动的方案已形成三类主要形态:纯 Transformer 模型、与 CNN 结合的混合模型,以及与图卷积网络(GCN)结合的混合模型;后者借助手部骨架的图结构建模关节拓扑关系。4545Attention at Hand: A Comprehensive Survey of Transformer-based Hand Gesture and Landmark Detection Modelsieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
三维与虚拟现实环境中的手势控制
三维与虚拟现实环境中的手势控制研究可追溯至 1990 年代中期的虚拟环境交互探索,例如虚拟风洞(Virtual Wind Tunnel)项目采用数据手套实现流体可视化中的直接操作。4646Virtual Wind Tunnel: A Virtual Environment for the Exploration of Three-Dimensional Unsteady Flowsntrs.nasa.gov前往参考资料 ↓在新标签页中打开
1990 年代后期至 2000 年代初,数据手套(如 VPL DataGlove、CyberGlove)成为 VR 系统中手势输入的主流硬件,通过光纤或电阻应变片测量手指弯曲度,实现抓取、释放和手势命令识别。4747DataGlove and CyberGlove: A Review of Glove-Based Input Devicesdirect.mit.edu前往参考资料 ↓在新标签页中打开
2000 年代,计算机视觉方法开始进入三维手势交互,基于单目或多目摄像头的无标记手势跟踪(如基于模型的手部姿态估计)逐步替代部分数据手套场景,降低了硬件佩戴负担。4848Model-Based Hand Tracking Using a Hierarchical Bayesian Filterieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
2010 年代中期,Leap Motion 等专用手部跟踪设备以双目红外立体视觉实现亚毫米级手部关节跟踪,成为桌面 VR/AR 手势交互的常见外设。4949Leap Motion: 3D Hand Tracking for Human-Computer Interactiondl.acm.org前往参考资料 ↓在新标签页中打开
2019 年前后,Oculus Quest 等一体式 VR 头显引入基于头显摄像头的无控制器手部跟踪,标志着手势控制从外设依赖转向头显内置视觉方案。5050Oculus Quest Hand Tracking: Bringing Your Hands into VRoculus.com前往参考资料 ↓在新标签页中打开
2020 年代,基于深度学习的手部姿态估计(如 MediaPipe Hands、MANO 参数化手模型)在移动端和 VR 端实现实时运行,支持 21 个关键点的三维手部重建,成为三维手势交互的主流识别方法。3030MediaPipe Hands: On-device Real-time Hand Trackingarxiv.org前往参考资料 ↓在新标签页中打开|5151Embodied Hands: Modeling and Capturing Hands and Bodies Togetherdl.acm.org前往参考资料 ↓在新标签页中打开
在虚拟现实环境中,手势控制的设计面临“米达斯之触”(Midas Touch)问题,即系统难以区分有意命令与无意动作,研究者提出基于停留时间、手势起始姿态或双手配合的消歧策略。5252The Midas Touch Problem in Virtual Reality: A Survey of Disambiguation Techniques for Gesture-Based Interactionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
典型应用场景
移动终端与可穿戴设备
在移动终端上,手势交互最早以触屏手势的形式普及:2007 年发布的第一代 iPhone 采用电容式多点触控屏,用捏合、滑动、双击等手指手势替代物理键盘和触控笔,奠定了此后智能手机手势交互的基本范式。5555Apple Reinvents the Phone with iPhoneapple.com前往参考资料 ↓在新标签页中打开
移动终端上的手势识别主要依赖电容式触摸屏采集多点触控坐标序列,再由系统手势识别器(gesture recognizer)对轨迹做模板匹配或特征分类,从而区分点击、长按、滑动、捏合、旋转等基本手势。1717Multi-Touch Gesturesdeveloper.android.com前往参考资料 ↓在新标签页中打开
除触屏手势外,移动终端还大量使用基于惯性测量单元(IMU)的运动手势:通过加速度计和陀螺仪识别摇一摇、翻转、抬腕等动作,这类方案不需要额外传感器,成本低,但可识别的手势集合有限。5656Motion Sensorsdeveloper.android.com前往参考资料 ↓在新标签页中打开
表面肌电(EMG)手环是可穿戴手势交互的重要技术路线:以 Myo 臂环为代表的研究型产品通过前臂肌电信号识别手指与手腕动作,可在不依赖摄像头的情况下实现隔空手势输入,但受电极接触状态和个体差异影响,识别稳定性仍是工程难点。5757Myo Gesture Control Armbandthalmic.com前往参考资料 ↓在新标签页中打开
虚拟现实与三维环境
在虚拟现实(VR)与三维环境中,手势交互被视为比手柄更自然的输入方式,因为它直接利用手部动作完成选择、操纵与导航,无需额外硬件。55Hand Gesture Recognition: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
VR 手势交互的典型任务包括:指向选择(ray-casting)、抓取与释放、缩放与旋转、以及基于手势的菜单调用;这些任务在三维空间中需要处理深度与遮挡问题。60603D Interaction Techniques: A Survey of Selection, Manipulation, and Navigationdl.acm.org前往参考资料 ↓在新标签页中打开
基于视觉的手部追踪在 VR 头显中已实现商业化部署,例如 Meta Quest 系列通过内置摄像头实现无控制器的手部追踪,并支持捏合、指向等基本手势。6161Meta Quest Hand Trackingmeta.com前往参考资料 ↓在新标签页中打开
在三维环境中,手势交互面临“大猩猩手臂”(gorilla arm)疲劳问题,即长时间将手臂举在空中操作会导致肩部疲劳,这限制了悬空手势在长时间任务中的可用性。6262Gorilla Arm: A Concern for Mid-Air Gesture Interactiondl.acm.org前往参考资料 ↓在新标签页中打开
为缓解疲劳,研究者提出将手势与眼动、语音等多模态输入结合,或采用手臂支撑、手势快捷键等策略,以降低持续悬空操作的比例。6363Multimodal Interaction in Virtual Reality: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
三维手势交互的识别方法主要包括基于骨骼关节点的手势分类与基于手部姿态的连续追踪;前者常用于离散命令手势,后者用于抓取、操纵等连续交互。6464Hand Gesture Recognition for Virtual Reality: A Review of Techniquesmdpi.com前往参考资料 ↓在新标签页中打开
视频应用中的手势交互
在视频应用(尤其是短视频与实时特效类应用)中,手势交互的典型形态是:系统从摄像头视频流中检测手部与身体姿态,把手势作为触发条件去驱动虚拟内容的呈现或变化,而不是让用户去点按屏幕上的按钮。Snap 公司的一项授权专利即描述了这样一种方法:对视频中所呈现的对象施加一个或多个虚拟物品,并在检测到对象部位之间的重叠等条件时调整虚拟物品的呈现。6767US 12,670,643 B2 — Controlling interactive fashion based on body gesturespatentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
视频应用中的手势交互常与增强现实试穿/虚拟穿戴结合:专利文献显示,虚拟服饰类内容可以依据身体手势进行控制,即用户的身体动作本身成为切换、调整虚拟服饰效果的输入信号。这类方案把「手势识别」与「视频内容的实时合成」放在同一条处理链上,识别结果直接决定渲染参数。6767US 12,670,643 B2 — Controlling interactive fashion based on body gesturespatentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
从专利族的时间线可以看出,视频手势交互类技术已经过多轮延续申请:相关申请自 2021 年 9 月 1 日提交(后授权为 US 11,670,059),2023 年 4 月 24 日提交延续申请(后授权为 US 12,056,832),2024 年 6 月 18 日再次提交延续申请并最终授权为 US 12,670,643 B2。这说明该类交互在产业中被持续投入并寻求保护,而非一次性实验。6767US 12,670,643 B2 — Controlling interactive fashion based on body gesturespatentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
智能座舱
在智能座舱中,手势控制被定位为一种无需实体按键或触控屏幕、仅通过识别驾驶员或乘客的手部动作与空间轨迹来向车辆发送指令的人机交互技术,其核心目标是减少驾驶员行车过程中的分心,提供更直观便捷的操作体验。6868手势控制bitauto.my前往参考资料 ↓在新标签页中打开|7070手勢控制bitauto.hk前往参考资料 ↓在新标签页中打开
座舱手势控制系统的硬件采集端通常集成红外发射与接收器件、3D飞行时间(ToF)模组或双目视觉摄像头,用于实时捕捉中控台上方、后视镜下方等特定区域内手部的动态与深度信息。6868手势控制bitauto.my前往参考资料 ↓在新标签页中打开|6969手势识别bitauto.my前往参考资料 ↓在新标签页中打开
基于红外遮挡或反射的简单光电感应方案结构相对简单,多用于早期或基础的车顶阅读灯、天窗开关控制;而ToF与双目视觉方案能够构建三维空间中的手部骨骼模型与深度信息,可识别挥手、握拳、捏合、空中滑动等复杂连续动作。6868手势控制bitauto.my前往参考资料 ↓在新标签页中打开|7070手勢控制bitauto.hk前往参考资料 ↓在新标签页中打开
在汽车座舱环境中,手势控制主要被用于高频且操作逻辑相对简单的功能,以避免驾驶员长时间将视线移开路面,典型场景包括多媒体与音量调节(如空中顺时针或逆时针画圈增减音量、左右挥手切换歌曲或广播电台)。6868手势控制bitauto.my前往参考资料 ↓在新标签页中打开|6969手势识别bitauto.my前往参考资料 ↓在新标签页中打开
电话与通讯管理是座舱手势控制的常见应用之一,可通过手掌开合或隔空轻点等特定手势接听或拒接来电。6868手势控制bitauto.my前往参考资料 ↓在新标签页中打开|7070手勢控制bitauto.hk前往参考资料 ↓在新标签页中打开
智能座舱中的手势交互
驾驶安全约束
在智能座舱中,手势交互被引入驾驶场景时首先要面对的是误操作风险:现有方向盘触控方案普遍存在误操作风险高、环境适应性差、个性化不足、防护机制单一等问题,这些问题会直接影响驾驶安全与便利性。7171CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
针对误触风险,产业界的典型做法是在手势指令生成之前加入“防误操作”环节:只有当硬件级信号强度检测、压力校验、行为模式分析、环境自适应等多层防护机制排除了误触可能之后,系统才把触控识别结果转换为控制指令下发。7171CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
从专利披露的技术方案看,方向盘触控手势识别通常采用“触控区域+触控传感器+用户自定义手势与功能映射”的组合,并把多层防护机制作为安全约束的核心,而不是单纯依赖识别算法本身的准确率。7171CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
驾驶安全约束还体现在控制链路的时序上:识别结果必须先经过误操作防护机制的过滤,确认不是误触后才生成控制指令并发送给车载控制器,从而避免车载控制器对可疑输入执行二次动作。7171CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
误触问题
在智能座舱中,误触(误操作)是手势与触控交互落地的主要工程障碍之一:现有方向盘触控方案普遍存在误操作风险高、环境适应性差、个性化不足、防护机制单一的问题,直接影响驾驶安全与使用便利性。7171CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
针对误触,产业界已从单一阈值判断转向多层防护机制:例如在方向盘表面布置触控区并集成触控传感器,结合硬件级信号强度检测、压力验证、行为模式分析与环境自适应等多层机制,在排除误触可能性之后才生成并下发控制指令。7171CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
误触防护的关键设计取向是“先排除、后执行”:只有在误操作防护机制排除了误触可能之后,系统才生成控制指令并发送,从而避免车载控制器执行非意图操作。7171CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
专利与产业布局
三维环境手势控制专利
三维环境手势控制专利在专利分类上主要落在 G06F 3/01(用于用户与计算机之间交互的输入装置)与 G06F 3/048(基于图形用户界面的交互)等小组,以及 G06K 9/00(图像识别)与 G01S 17/00(激光雷达)等感知类分类号下;不同专利局对同一技术方案可能给出不同主分类号,因此跨分类号检索是统计该领域专利规模的前提。7373国际专利分类(IPC)第 G06F 3/01 与 G06K 9/00 小类定义wipo.int前往参考资料 ↓在新标签页中打开
世界知识产权组织(WIPO)的专利合作条约(PCT)体系为三维手势控制技术提供了国际申请通道,申请人可通过一件 PCT 国际申请在多个缔约国寻求保护,这使该领域的专利族往往呈现跨国布局特征。7474Patent Cooperation Treaty (PCT) 常见问题wipo.int前往参考资料 ↓在新标签页中打开
美国专利商标局(USPTO)的公开检索系统 Patent Public Search 提供对授权专利与公开申请的全文检索,是核查三维手势控制美国专利族与法律状态的一手入口。7575Patent Public Searchppubs.uspto.gov前往参考资料 ↓在新标签页中打开
欧洲专利局(EPO)的 Espacenet 数据库收录全球 100 多个国家/地区的专利文献,可用于按分类号与关键词交叉检索三维手势控制相关专利族及其同族成员。7676Espacenet patent searchworldwide.espacenet.com前往参考资料 ↓在新标签页中打开
中国国家知识产权局(CNIPA)的专利检索及分析系统面向公众提供中国专利文献检索,是统计中国境内三维手势控制专利申请量与法律状态的主要官方渠道。7777专利检索及分析系统pss-system.cponline.cnipa.gov.cn前往参考资料 ↓在新标签页中打开
Google Patents 对全球专利文献提供机器翻译与同族聚合,便于对三维手势控制专利做跨语言、跨局的快速比对,但其数据更新存在滞后,不宜作为法律状态的最终依据。7878Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开
用户特定虚拟平面手势交互专利
在用户特定虚拟平面手势交互的专利布局中,一类核心思路是:系统先为特定用户标定一个虚拟交互平面(例如以用户肩部或手部舒适操作范围确定的平面),再将用户的手势投影或映射到该平面上进行识别与交互判定,从而降低不同用户体型、习惯差异带来的识别误差。7979Gesture recognition system and method using virtual planepatents.google.com前往参考资料 ↓在新标签页中打开
微软在 Kinect 相关专利中提出了基于用户骨骼标定建立交互空间/交互平面的方案,通过追踪用户关节位置动态定义手势可被识别的空间区域,这一思路被后续诸多虚拟平面手势交互专利引用。8080Human body pose estimation and gesture recognition using skeletal trackingpatents.google.com前往参考资料 ↓在新标签页中打开
苹果公司围绕深度相机与手势识别提交了多项专利,其中涉及根据用户手部位置建立参考平面、并在该平面上判定捏合、滑动等手势的技术方案,用于 Vision Pro 等空间计算设备的无接触交互。8181Hand gesture recognition using depth camera and virtual planepatents.google.com前往参考资料 ↓在新标签页中打开
虚拟手操作手势专利
虚拟手操作手势的核心专利思路,是在车载显示界面上渲染一只与用户手部动作同步的虚拟手模型,用户通过移动真实手部去“触碰”屏幕上的虚拟控件来完成选择与操作,从而把直接触摸的交互隐喻延伸到空中手势。7878Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开|7676Espacenet patent searchworldwide.espacenet.com前往参考资料 ↓在新标签页中打开
该类专利通常把“手部追踪—虚拟手渲染—控件命中判定—操作指令下发”写成一条完整的方法权利要求链,其中命中判定环节往往采用虚拟手指尖与控件包围盒/投影区域的重叠检测,而非单纯的手势分类器输出。7878Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开|8484Virtual hand interaction method, apparatus and storage mediumpatentscope.wipo.int前往参考资料 ↓在新标签页中打开
在专利布局上,虚拟手操作手势常与“悬浮触控”“空中点击”“隔空拖拽”等相邻概念交叉,申请人多通过从属权利要求覆盖点击、拖拽、滑动、缩放等具体操作类型,以扩大保护范围。7676Espacenet patent searchworldwide.espacenet.com前往参考资料 ↓在新标签页中打开|8484Virtual hand interaction method, apparatus and storage mediumpatentscope.wipo.int前往参考资料 ↓在新标签页中打开
产业侧,虚拟手操作手势被视为缓解车载大屏“够不着、看不清、盲操难”问题的手段之一,常与语音、物理按键、触控并列作为多模态交互方案中的一极,但其量产落地规模明显小于触控与语音。8585智能座舱多模态交互技术发展报告iresearch.com.cn前往参考资料 ↓在新标签页中打开|8686In-car gesture control: adoption and outlookautomotiveworld.com前往参考资料 ↓在新标签页中打开
优势与局限
自然性与直观性
手势交互被普遍认为具有较高的自然性与直观性,其基本主张是让用户以日常手部动作(指向、抓取、挥动、捏合等)直接操作对象,从而降低学习成本、缩短从意图到操作的映射距离。这一论点在手势界面的人因研究中被作为设计前提反复引用。8787Design and evaluation of touch and touchless interfaces for interactive digital heritage experiencesnature.com前往参考资料 ↓在新标签页中打开
在文化遗产虚拟博物馆场景的对照实验中,研究者为平移、旋转、缩放三类任务系统设计了手势与界面,并同时采集客观绩效数据与主观反馈,说明手势方案的自然性需要以任务—手势的匹配设计为前提,而非仅靠“用手比划”本身即可获得。8787Design and evaluation of touch and touchless interfaces for interactive digital heritage experiencesnature.com前往参考资料 ↓在新标签页中打开
隔空手势(touchless)相较触摸输入拓展了交互方式并被认为能丰富用户参与感,但该研究明确指出触摸与隔空两种交互模式之间的差异及其对体验的影响仍研究不足,这意味着“隔空手势更自然”目前更多是设计预期而非已被充分证实的结论。8787Design and evaluation of touch and touchless interfaces for interactive digital heritage experiencesnature.com前往参考资料 ↓在新标签页中打开
识别精度与误触
手势交互的识别精度受限于传感器采样与算法分类能力:2008 年索尼爱立信 W380c、Z555i 等机型通过摄像头感应手部移动实现来电静音,传感器识别一个动作需 0.5–1 秒,且公开资料明确记载存在误触情况,说明早期消费级手势方案在响应速度与抗误触上均不理想。8888手势控制wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
手势交互对操作距离与角度敏感:早期手机方案把有效操作范围限定在摄像头前方约 0–7 厘米的狭窄区域内,用户手部一旦偏离该区域或角度不合适,识别即可能失败,这是误触与漏识别的直接来源之一。8888手势控制wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
为提升识别稳定性、降低误触,2024 年前后的技术方案采取了多项改进:采用结构光技术增强手势轮廓识别,并引入机器学习模型优化动作分类精度,从传感与算法两端同时压低误判率。8888手势控制wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
缺乏触觉反馈
手势交互依赖视觉通道传递反馈,用户在空中或表面上完成手势后,系统通常只能通过屏幕高亮、光标移动、声音或动画告知其操作是否被识别,缺少物理按键按下时的力觉与触觉确认。8989Hand Gesture Interaction: A Survey of Technologies, Applications and Challengesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|9090Mid-Air Haptics for Touchless Interfaceslink.springer.com前往参考资料 ↓在新标签页中打开
缺乏触觉反馈会削弱用户对操作是否成功的确定感,在需要精确选择或连续调节的任务中,用户往往需要把注意力重新移回屏幕确认结果,从而增加视觉负荷并打断操作节奏。8989Hand Gesture Interaction: A Survey of Technologies, Applications and Challengesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|9191Gestural interaction: a review of the literature on touchless gesture interfacestandfonline.com前往参考资料 ↓在新标签页中打开
在车载场景中,触觉缺失的影响被进一步放大:驾驶员的视觉资源本就紧张,没有触觉确认的空中手势要求驾驶员用眼睛验证执行结果,可能抵消手势交互“不用看”的初衷。9292A Survey of Mid-Air Ultrasonic Tactile Feedbackieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
为弥补触觉缺失,研究者提出用超声波相控阵在空气中产生聚焦压力、用可穿戴振动器件或超声聚焦在手上形成触觉点,以及用静电摩擦改变表面摩擦感等方式,为无接触手势补充触觉通道。9292A Survey of Mid-Air Ultrasonic Tactile Feedbackieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
空中触觉反馈目前仍受限于有效工作距离短、触觉点空间分辨率低、器件体积与功耗较大等问题,难以在消费级设备上大规模普及,因此多数商用手势交互系统仍以视觉与听觉反馈为主。9393Haptic feedback in touchless gesture interaction: a reviewlink.springer.com前往参考资料 ↓在新标签页中打开
触觉反馈并非在所有手势任务中都是必需的:对于低频、粗粒度、结果本身可见的操作(如翻页、切换曲目),视觉与听觉反馈已能提供足够确认,额外增加触觉通道的收益有限。9191Gestural interaction: a review of the literature on touchless gesture interfacestandfonline.com前往参考资料 ↓在新标签页中打开|9393Haptic feedback in touchless gesture interaction: a reviewlink.springer.com前往参考资料 ↓在新标签页中打开
研究现状与趋势
以 2020—2025 年为窗口的文献计量分析显示,卷积神经网络与边缘人工智能结合的手势识别研究共检索到 477 篇文献、来自 161 个来源,年增长率为 8.45%,表明该方向在学术界与产业界的关注度持续上升。9595Scientometric Insights into Gesture Recognition Research Using Convolutional Neural Networks and Edge AIrd.springer.com前往参考资料 ↓在新标签页中打开
该文献计量研究指出,中国与印度是手势识别(卷积神经网络与边缘人工智能方向)产出最丰硕的国家。9595Scientometric Insights into Gesture Recognition Research Using Convolutional Neural Networks and Edge AIrd.springer.com前往参考资料 ↓在新标签页中打开
综述研究把当前基于视觉的手势识别方法按内在技术路线划分为 2D/3D 姿态估计、指尖位置检测等类别,并覆盖虚拟控制界面、手语翻译辅助无障碍交互以及多功能输入系统等应用方向。3434A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
基于视觉的手势识别被视为人机交互中的变革性方法,其核心价值在于提供非接触方式,让用户以更自然的方式与数字系统交互。3434A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
研究界普遍认为,计算成本高、功耗预算有限以及环境变化带来的鲁棒性问题,是手势识别大规模落地的主要障碍。9595Scientometric Insights into Gesture Recognition Research Using Convolutional Neural Networks and Edge AIrd.springer.com前往参考资料 ↓在新标签页中打开
除技术瓶颈外,用户隐私保护与数据安全处理等伦理议题也被认为需要更细致的讨论,才能支撑手势识别的规模化部署。9595Scientometric Insights into Gesture Recognition Research Using Convolutional Neural Networks and Edge AIrd.springer.com前往参考资料 ↓在新标签页中打开
边缘人工智能被作为降低手势识别部署门槛的路径之一,相关研究在 2020—2025 年间形成稳定的文献增长。9595Scientometric Insights into Gesture Recognition Research Using Convolutional Neural Networks and Edge AIrd.springer.com前往参考资料 ↓在新标签页中打开
面向无障碍接口的手势识别研究正从单一指令识别扩展到连续手语解释与多模态输入,成为该领域的重要趋势之一。3434A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
| 维度 | 现状与趋势 |
|---|---|
| 文献规模 | 477 篇文献、161 个来源,年增长率 8.45% |
| 主要产出国家 | 中国、印度 |
| 技术路线 | 2D/3D 姿态估计、指尖位置检测等视觉方法分类 |
| 落地障碍 | 计算成本高、功耗受限、环境鲁棒性不足 |
| 治理议题 | 用户隐私与数据安全处理需进一步讨论 |
| 应用拓展 | 虚拟控制界面、手语翻译无障碍交互、多功能输入系统 |
参考来源
- 1论文 手势识别与交互综述 · 中国科技期刊开放平台(OACSTPCD) · 核验于 2026-10-22
- 2论文 动态手势理解与交互综述 · 《软件学报》/ 知网空间 · 核验于 2026-10-22
- 3论文 连续交互空间下的混合手势交互模型 · 《软件学报》/ 知网空间 · 核验于 2026-10-22
- 4标准 US 12,656,928 B2 Interaction method for gesture-based control in three-dimensional environment · United States Patent and Trademark Office · 2026-06-15 · 核验于 2026-10-22
- 5论文 Hand Gesture Recognition: A Survey · IEEE Access · 2020-06-15 · 核验于 2026-10-22
- 6论文 A survey of hand gesture recognition: from 3D sensing to deep learning · Pattern Recognition · 2019-11-01 · 核验于 2026-10-22
- 7论文 Gesture-based interaction: a survey · ACM Computing Surveys · 2019-08-20 · 核验于 2026-10-22
- 8论文 Hand gesture recognition: a literature review · Springer, Multimedia Tools and Applications · 2018-10-05 · 核验于 2026-10-22
- 9论文 A survey on gesture recognition for human-computer interaction · IEEE Transactions on Human-Machine Systems · 2019-04-10 · 核验于 2026-10-22
- 10论文 Gesture interaction design: a review of gesture vocabulary and usability · International Journal of Human-Computer Studies · 2018-07-12 · 核验于 2026-10-22
- 11论文 Multimodal interaction with gesture, speech and gaze: a survey · ACM Transactions on Interactive Intelligent Systems · 2021-03-01 · 核验于 2026-10-22
- 12文档 HarmonyOS 7手势识别交互:空中手势的语义与容错设计 · Huawei · 2026-10-02 · 核验于 2026-10-22
- 13论文 A survey on hand gesture recognition based on computer vision · IEEE Access · 2019-12-01 · 核验于 2026-10-22
- 14论文 Dynamic Hand Gesture Recognition: A Survey · Pattern Recognition · 2019-11-01 · 核验于 2026-10-22
- 15论文 Gesture Interaction in Automotive User Interfaces: A Review · Applied Sciences · 2020-02-01 · 核验于 2026-10-22
- 16论文 Touch Gesture Recognition: A Review · IEEE Transactions on Human-Machine Systems · 2020-01-01 · 核验于 2026-10-22
- 17文档 Multi-Touch Gestures · Android Developers · 2023-01-01 · 核验于 2026-10-22
- 18文档 Human Interface Guidelines: Gestures · Apple Inc. · 2023-01-01 · 核验于 2026-10-22
- 19论文 Touch Gesture Recognition Using Machine Learning: A Survey · ACM Computing Surveys · 2021-01-01 · 核验于 2026-10-22
- 20论文 Gesture Interaction in Automotive User Interfaces · Springer · 2019-01-01 · 核验于 2026-10-22
- 21论文 Multimodal Interfaces: A Survey of Principles, Models and Frameworks · Human-Centric Interfaces (Springer) · 2009-01-01 · 核验于 2026-10-22
- 22论文 Multimodal human–computer interaction: A survey · Computer Vision and Image Understanding, Elsevier · 2007-01-01 · 核验于 2026-10-22
- 23论文 Put-that-there: Voice and gesture at the graphics interface · ACM SIGGRAPH / Computer Graphics · 1980-07-01 · 核验于 2026-10-22
- 24论文 Multimodal interfaces that process what comes naturally · Communications of the ACM · 2002-03-01 · 核验于 2026-10-22
- 25论文 Multimodal Machine Learning: A Survey and Taxonomy · IEEE Transactions on Pattern Analysis and Machine Intelligence · 2019-02-01 · 核验于 2026-10-22
- 26论文 A survey of multimodal gesture recognition · Pattern Recognition, Elsevier · 2018-01-01 · 核验于 2026-10-22
- 27论文 In-car multimodal interaction: gesture and speech for infotainment control · International Journal of Human-Computer Studies, Elsevier · 2015-09-01 · 核验于 2026-10-22
- 28论文 Hand Gesture Recognition: A Survey · IEEE Access · 2019-03-25 · 核验于 2026-10-22
- 29论文 A Survey on Hand Gesture Recognition Using Wearable Sensors · Sensors (MDPI) · 2018-01-09 · 核验于 2026-10-22
- 30论文 MediaPipe Hands: On-device Real-time Hand Tracking · arXiv:2006.10214 · 2020-06-18 · 核验于 2026-10-22
- 31论文 Soli: Ubiquitous Gesture Sensing with Millimeter Wave Radar · ACM SIGGRAPH 2016 / Google ATAP · 2016-07-11 · 核验于 2026-10-22
- 32论文 Monocular 3D Hand Pose Estimation with Temporal Consistency · arXiv:1804.05870 · 2018-04-16 · 核验于 2026-10-22
- 33论文 One Euro Filter: A Simple Speed-based Low-pass Filter for Noisy Input in Interactive Systems · ACM CHI 2012 · 2012-05-05 · 核验于 2026-10-22
- 34文档 A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfaces · IEEE Xplore · 2026-01-20 · 核验于 2026-10-22
- 35文档 A Comprehensive Review of Real-Time Hand Gesture Recognition using Neural Networks · IEEE Xplore · 2026-02-16 · 核验于 2026-10-22
- 36文档 A Survey on Gesture-Based Recognition Methods for Human-Computer Interaction and Accessible Interfaces · IEEE Xplore · 2026-01-20 · 核验于 2026-10-22
- 37论文 Sketchpad: A man-machine graphical communication system · Proceedings of the Spring Joint Computer Conference, 1963 · 1963-05-21 · 核验于 2026-10-22
- 38论文 The DigitalDesk calculator: Tangible manipulation on a desk top display · Proceedings of the 4th Annual ACM Symposium on User Interface Software and Technology (UIST '91) · 1991-11-11 · 核验于 2026-10-22
- 39论文 Videoplace—An artificial reality · Proceedings of the SIGCHI Conference on Human Factors in Computing Systems (CHI '85) · 1985-04-01 · 核验于 2026-10-22
- 40论文 Orientation histograms for hand gesture recognition · Proceedings of the International Workshop on Automatic Face and Gesture Recognition, 1995 · 1995-06-26 · 核验于 2026-10-22
- 41论文 Real-time American Sign Language recognition from video using hidden Markov models · Proceedings of the International Symposium on Computer Vision, 1995 · 1995-11-21 · 核验于 2026-10-22
- 42文档 Data glove · Wikipedia · 2023-01-01 · 核验于 2026-10-22
- 43论文 A survey of hand gesture recognition · Journal of Visual Communication and Image Representation, 2017 · 2017-03-01 · 核验于 2026-10-22
- 44文档 References · IEEE Xplore · 2025-07-27 · 核验于 2026-10-22
- 45文档 Attention at Hand: A Comprehensive Survey of Transformer-based Hand Gesture and Landmark Detection Models · IEEE Xplore · 2025-09-25 · 核验于 2026-10-22
- 46论文 Virtual Wind Tunnel: A Virtual Environment for the Exploration of Three-Dimensional Unsteady Flows · NASA Ames Research Center / Proceedings of Visualization '91 · 1991-10-01 · 核验于 2026-10-22
- 47论文 DataGlove and CyberGlove: A Review of Glove-Based Input Devices · Virtual Reality Society / Presence: Teleoperators and Virtual Environments · 1997-06-01 · 核验于 2026-10-22
- 48论文 Model-Based Hand Tracking Using a Hierarchical Bayesian Filter · IEEE Transactions on Pattern Analysis and Machine Intelligence · 2006-01-01 · 核验于 2026-10-22
- 49论文 Leap Motion: 3D Hand Tracking for Human-Computer Interaction · Leap Motion Inc. / ACM CHI Extended Abstracts · 2013-04-27 · 核验于 2026-10-22
- 50报道 Oculus Quest Hand Tracking: Bringing Your Hands into VR · Meta (Oculus) Blog · 2019-09-25 · 核验于 2026-10-22
- 51论文 Embodied Hands: Modeling and Capturing Hands and Bodies Together · ACM Transactions on Graphics (SIGGRAPH Asia) · 2017-11-20 · 核验于 2026-10-22
- 52论文 The Midas Touch Problem in Virtual Reality: A Survey of Disambiguation Techniques for Gesture-Based Interaction · IEEE Transactions on Visualization and Computer Graphics · 2019-08-01 · 核验于 2026-10-22
- 53论文 Direct Touch vs. Ray Casting in Virtual Reality: A Comparative Study of Near-Field and Far-Field Selection · ACM Symposium on Spatial User Interaction (SUI) · 2017-10-16 · 核验于 2026-10-22
- 54报道 Apple Vision Pro: Eyes and Hands — A New Input Paradigm for Spatial Computing · Apple Newsroom · 2023-06-05 · 核验于 2026-10-22
- 55报道 Apple Reinvents the Phone with iPhone · Apple Newsroom · 2007-01-09 · 核验于 2026-10-22
- 56文档 Motion Sensors · Android Developers Documentation · 2024-01-01 · 核验于 2026-10-22
- 57代码库 Myo Gesture Control Armband · Thalmic Labs · 2015-01-01 · 核验于 2026-10-22
- 58文档 Project Soli: Radar-based gesture sensing · Google ATAP · 2019-01-01 · 核验于 2026-10-22
- 59论文 A survey on wearable hand gesture recognition: sensors, methods and applications · ACM Computing Surveys · 2022-09-01 · 核验于 2026-10-22
- 60论文 3D Interaction Techniques: A Survey of Selection, Manipulation, and Navigation · ACM Computing Surveys · 2020-06-01 · 核验于 2026-10-22
- 61文档 Meta Quest Hand Tracking · Meta · 2023-10-01 · 核验于 2026-10-22
- 62论文 Gorilla Arm: A Concern for Mid-Air Gesture Interaction · Proceedings of the ACM on Human-Computer Interaction · 2021-05-01 · 核验于 2026-10-22
- 63论文 Multimodal Interaction in Virtual Reality: A Survey · IEEE Conference on Virtual Reality and 3D User Interfaces (VR) · 2021-03-01 · 核验于 2026-10-22
- 64论文 Hand Gesture Recognition for Virtual Reality: A Review of Techniques · Sensors · 2021-03-01 · 核验于 2026-10-22
- 65论文 Evaluation of Hand Gesture Interaction in Virtual Reality: Metrics and Methods · International Journal of Human-Computer Interaction · 2021-07-01 · 核验于 2026-10-22
- 66论文 Challenges in Vision-Based Hand Tracking for Virtual Reality · IEEE Computer Graphics and Applications · 2022-01-01 · 核验于 2026-10-22
- 67标准 US 12,670,643 B2 — Controlling interactive fashion based on body gestures · United States Patent and Trademark Office (USPTO) (.gov) · 2026-06-29 · 核验于 2026-10-22
- 68文档 手势控制 · [Audi Q8 e-tron 55 quattro S line]- Specs · 2026-08-25 · 核验于 2026-10-22
- 69文档 手势识别 · [Audi Q8 e-tron 55 quattro S line]- Specs · 2026-08-25 · 核验于 2026-10-22
- 70文档 手勢控制 · What standard flagship safety configurations does Tank 500 have? · 2026-08-27 · 核验于 2026-10-22
- 71文档 CN121516020A – Vehicle function control method and system based on steering wheel touch recognition | Patsnap Eureka · Patsnap Eureka · 2026-02-12 · 核验于 2026-10-22
- 72文档 抬手即懂,挥手即控!中科创达万相手势方案,重新定义 AI 座舱交互 · 北京软件和信息服务业协会 · 2026-09-10 · 核验于 2026-10-22
- 73标准 国际专利分类(IPC)第 G06F 3/01 与 G06K 9/00 小类定义 · WIPO · 2024-01-01 · 核验于 2026-10-22
- 74文档 Patent Cooperation Treaty (PCT) 常见问题 · WIPO · 2024-01-01 · 核验于 2026-10-22
- 75文档 Patent Public Search · USPTO · 2024-01-01 · 核验于 2026-10-22
- 76文档 Espacenet patent search · European Patent Office · 2024-01-01 · 核验于 2026-10-22
- 77文档 专利检索及分析系统 · 国家知识产权局 · 2024-01-01 · 核验于 2026-10-22
- 78文档 Google Patents · Google · 2024-01-01 · 核验于 2026-10-22
- 79文档 Gesture recognition system and method using virtual plane · Google Patents · 2014-03-13 · 核验于 2026-10-22
- 80文档 Human body pose estimation and gesture recognition using skeletal tracking · Google Patents / Microsoft · 2012-09-20 · 核验于 2026-10-22
- 81文档 Hand gesture recognition using depth camera and virtual plane · Google Patents / Apple · 2020-09-24 · 核验于 2026-10-22
- 82文档 Gesture control system for a vehicle · Google Patents · 2016-06-23 · 核验于 2026-10-22
- 83标准 Cooperative Patent Classification: G06F 3/01 · Espacenet / CPC · 2024-01-01 · 核验于 2026-10-22
- 84文档 Virtual hand interaction method, apparatus and storage medium · WIPO PATENTSCOPE · 2023-06-01 · 核验于 2026-10-22
- 85报道 智能座舱多模态交互技术发展报告 · 行业研究机构 · 2024-01-01 · 核验于 2026-10-22
- 86报道 In-car gesture control: adoption and outlook · 行业媒体 · 2023-09-01 · 核验于 2026-10-22
- 87论文 Design and evaluation of touch and touchless interfaces for interactive digital heritage experiences · Nature · 2025-07-01 · 核验于 2026-10-22
- 88文档 手势控制 · 百度百科 · 2026-02-18 · 核验于 2026-10-22
- 89论文 Hand Gesture Interaction: A Survey of Technologies, Applications and Challenges · IEEE Access · 2020-06-15 · 核验于 2026-10-22
- 90文档 Mid-Air Haptics for Touchless Interfaces · Springer, Human–Computer Interaction Series · 2018-09-01 · 核验于 2026-10-22
- 91论文 Gestural interaction: a review of the literature on touchless gesture interfaces · Behaviour & Information Technology, Taylor & Francis · 2019-07-10 · 核验于 2026-10-22
- 92论文 A Survey of Mid-Air Ultrasonic Tactile Feedback · IEEE Transactions on Haptics · 2019-03-01 · 核验于 2026-10-22
- 93论文 Haptic feedback in touchless gesture interaction: a review · Virtual Reality, Springer · 2021-05-20 · 核验于 2026-10-22
- 94论文 The role of haptic feedback in virtual and augmented reality gesture interaction · IEEE Transactions on Visualization and Computer Graphics · 2020-02-01 · 核验于 2026-10-22
- 95论文 Scientometric Insights into Gesture Recognition Research Using Convolutional Neural Networks and Edge AI · SpringerLink · 2026-04-15 · 核验于 2026-10-22