语音交互
- 英文
- Voice Interaction / Speech Interaction
- 别称
- 语音用户界面(VUI)、口语对话系统
- 核心环节
- 语音识别、自然语言理解、对话管理、语音合成
- 典型载体
- 智能音箱、手机语音助手、智能座舱、呼叫中心
- 关键挑战
- 噪声鲁棒性、方言与口音、多轮对话、多模态协同
语音交互是以自然语言语音为通道的人机交互方式:用户以说话表达意图,系统经语音识别转写为文本、理解语义并作出回应,再以语音合成播报结果。11Spoken Language Processing: A Guide to Theory, Algorithm, and System Developmentpearson.com前往参考资料 ↓在新标签页中打开
定义与基本特征
与图形用户界面的区别
图形用户界面(GUI)以视觉通道为主,用户通过菜单、图标、窗口等可见控件进行选择与操作,交互的“可供性”(affordance)直接呈现在屏幕上;语音交互则以听觉与言语通道为主,用户需要以口头语言表达意图,系统以合成语音回应,交互的“可供性”不直接可见,需要用户凭经验或提示来推断可以说什麼。44Direct Manipulation: A Step Beyond Programming Languagesdoi.org前往参考资料 ↓在新标签页中打开|55The Design of Everyday Thingsbasicbooks.com前往参考资料 ↓在新标签页中打开
GUI 通常是“直接操纵”(direct manipulation)式的:用户指向并点击目标对象,操作与对象一一对应;语音交互是间接的、基于描述的,用户必须用语言把目标对象及其属性描述出来,系统再解析为可执行命令,因此同一意图可能存在多种表述方式。44Direct Manipulation: A Step Beyond Programming Languagesdoi.org前往参考资料 ↓在新标签页中打开|66Voice Interaction Design: Crafting the New Conversational Speech Systemssciencedirect.com前往参考资料 ↓在新标签页中打开
GUI 的交互带宽受屏幕尺寸与布局限制,但信息呈现是并行的、可扫视的;语音交互是串行的、时间性的,用户必须按顺序听取和说出信息,无法像浏览屏幕那样快速跳读,因此长列表或复杂选项在纯语音界面中效率显著下降。55The Design of Everyday Thingsbasicbooks.com前往参考资料 ↓在新标签页中打开|22Speech and Language Processing (3rd edition draft)web.stanford.edu前往参考资料 ↓在新标签页中打开
GUI 操作通常是离散、可撤销的,用户可以看到当前状态并回退;语音交互的对话状态是隐式的,用户难以确认系统当前处于哪一状态,纠错往往需要额外的对话轮次,这使语音界面的错误恢复成本高于 GUI。66Voice Interaction Design: Crafting the New Conversational Speech Systemssciencedirect.com前往参考资料 ↓在新标签页中打开|77Designing Voice User Interfaces: Principles of Conversational Experiencesoreilly.com前往参考资料 ↓在新标签页中打开
GUI 对用户的操作精度要求较高,需要视觉定位与手部精细动作;语音交互对肢体和视觉的要求较低,在驾驶、行走或视觉被占用等“手眼繁忙”场景中具有通道优势,这也是语音被引入车载等场景的主要动因之一。22Speech and Language Processing (3rd edition draft)web.stanford.edu前往参考资料 ↓在新标签页中打开|88Human Factors in Automotive User Interfaces and Vehicles of the Futuresciencedirect.com前往参考资料 ↓在新标签页中打开
GUI 的交互结果通常是确定性的:点击同一按钮得到同一响应;语音交互受语音识别错误、口音、环境噪声和自然语言理解歧义影响,同一句话可能被解析为不同意图,系统行为具有概率性,因此语音界面需要显式的确认与澄清机制。55The Design of Everyday Thingsbasicbooks.com前往参考资料 ↓在新标签页中打开|77Designing Voice User Interfaces: Principles of Conversational Experiencesoreilly.com前往参考资料 ↓在新标签页中打开
近场与远场语音交互
按声源与拾音设备的距离划分,语音交互通常被分为近场语音场景与远场语音场景两类:近场指用户贴近设备说话、声源与麦克风距离很近的情形,远场指用户与设备相隔数米、声源远离麦克风的情形。这一划分是产品设计与算法选型的基本前提,因为两类场景在信噪比、混响和激活方式上差异显著。99要跟机器说上话,总共分几步?_新闻中心_物联网世界iotworld.com.cn前往参考资料 ↓在新标签页中打开
近场语音交互通常通过按键激活,典型载体是智能手机等便携设备;用户手持或贴近设备说话,拾音距离短、直达声占比高,因此对唤醒词检测和远距离拾音的依赖较低。99要跟机器说上话,总共分几步?_新闻中心_物联网世界iotworld.com.cn前往参考资料 ↓在新标签页中打开
远场语音交互通常通过唤醒词激活,典型载体是智能音箱等位置固定的设备;用户往往在数米之外以自然音量说话,设备需要先被动监听并识别唤醒词,再进入正式交互。99要跟机器说上话,总共分几步?_新闻中心_物联网世界iotworld.com.cn前往参考资料 ↓在新标签页中打开
在远场产品策略上,一种常见做法是把唤醒词的音节长度增加到四个音节,因为音节越长,唤醒的准确率通常越高,例如四音节唤醒词“小兴小兴”的唤醒准确率明显高于两音节“小兴”。99要跟机器说上话,总共分几步?_新闻中心_物联网世界iotworld.com.cn前往参考资料 ↓在新标签页中打开
技术链路
自动语音识别
自动语音识别(Automatic Speech Recognition, ASR)是语音交互技术链路的第一环,其任务是把麦克风采集到的声学信号转写为文本序列,为后续的自然语言理解与对话管理提供输入。在典型的语音交互系统中,ASR 的输出质量直接决定整条链路的可用性上限。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
从信号处理角度看,ASR 前端通常包含预加重、分帧、加窗与端点检测(VAD)等步骤,把连续音频切分为短时平稳片段;随后提取梅尔频率倒谱系数(MFCC)或滤波器组(Filterbank)等声学特征,作为声学模型的输入表示。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
声学模型负责建模声学特征到音素或子词单元的映射。早期系统采用高斯混合模型—隐马尔可夫模型(GMM-HMM)框架,2010 年代后逐步被深度神经网络—隐马尔可夫模型(DNN-HMM)混合架构取代,声学建模能力显著提升。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
语言模型为解码提供词序列的先验概率,与声学模型得分在解码器中融合,共同搜索最优词序列。发音词典则给出词到音素序列的映射,是连接声学层与语言层的桥梁。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
端到端(End-to-End)建模范式把声学模型、发音词典与语言模型压缩进单一神经网络,主流结构包括连接时序分类(CTC)、循环神经网络转录器(RNN-T)与基于注意力机制的编码器—解码器(Attention-based Encoder-Decoder)。这类方法简化了传统流水线的工程复杂度,并成为当前商用系统的重要技术路线。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
解码阶段的目标是在给定声学观测下搜索概率最大的词序列。工程上常用束搜索(Beam Search)在搜索空间与计算开销之间折中;对实时性要求高的场景,还会采用流式解码与增量识别,使系统在用户说话过程中即开始输出部分结果。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
在客户端—云端协同架构中,语音查询可由客户端设备麦克风采集,并在客户端侧生成中间表示后交由服务端模型处理。专利文献显示,此类架构已被用于把语音查询与生成式模型结合,形成查询响应接口。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
ASR 系统的性能通常以词错误率(Word Error Rate, WER)衡量,其计算为替换、删除、插入三类错误之和与参考词数的比值。WER 越低表示转写越准确,但该指标对语义正确性不敏感,因此实际评测中常辅以语义错误率等指标。1010CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ...patentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
自然语言理解
自然语言理解(NLU)在语音交互链路中承接语音识别输出的文本,负责把用户话语转成机器可操作的语义表示,典型输出包括领域/意图分类与槽位(关键参数)抽取,其质量直接决定后续对话管理与技能执行能否正确进行。1111CN120780808A - Method, apparatus, device, storage medium and program product for dialogue processing - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开|1212US 12,494,194 B1 - Machine learning model architecture for incremental asynchronous inferencepatentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
在专利文献披露的对话处理方案中,自然语言理解被置于语音识别之后、回复生成之前:先由自动语音识别(ASR)把第一自然语言输入数据转写为文本,再基于该转写结果生成特征数据并做后续推理,说明 NLU 的输入在工程实现上通常就是 ASR 的转写文本而非原始音频。1212US 12,494,194 B1 - Machine learning model architecture for incremental asynchronous inferencepatentsgazette.uspto.gov前往参考资料 ↓在新标签页中打开
面向专业领域的语音/对话系统对自然语言理解提出了更高要求:机器学习、金融服务、医疗咨询等场景对知识准确性、术语规范化和语言表达严谨性要求较高,通用 NLU 的宽松匹配在这些领域容易失效,需要在理解环节引入领域知识与术语归一化处理。1111CN120780808A - Method, apparatus, device, storage medium and program product for dialogue processing - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开
自然语言理解的结果常被用于驱动下游的推荐与决策类处理:相关系统会结合用户历史行为数据,用机器学习算法分析用户可能的下一个需求并生成候选输出,这表明 NLU 输出的语义标签不仅服务于单轮问答,也可作为用户建模与个性化服务的输入。1313JP2026073347A - system - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开
对话管理
对话管理在语音交互链路中承接语音识别与自然语言理解的结果,负责维护对话状态、决定系统下一步动作(追问、澄清、执行任务或结束会话),并把结果交给自然语言生成与语音合成。1414CN120853551A - A real-time voice interaction method and system based on large model - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开|1111CN120780808A - Method, apparatus, device, storage medium and program product for dialogue processing - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开
对话状态跟踪是对话管理的核心环节:系统需要把当前用户输入与历史对话上下文合并,形成对用户意图与槽位填充情况的当前状态估计,再据此选择系统动作。1111CN120780808A - Method, apparatus, device, storage medium and program product for dialogue processing - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开
面向专业领域(如机器学习、金融服务、医疗咨询等对知识准确性、术语规范性和语言表达严谨性要求较高的场景)的对话处理,需要在对话管理中引入领域适配与术语规范化处理,而不能直接套用通用闲聊式对话策略。1111CN120780808A - Method, apparatus, device, storage medium and program product for dialogue processing - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开
实时语音交互中的对话管理必须处理打断(barge-in):在系统播报语音的同时并行启动语音识别并检测用户语音活动,一旦判定用户开始说话即中止或调整当前播报,把控制权交回用户。1414CN120853551A - A real-time voice interaction method and system based on large model - Google Patentspatents.google.com前往参考资料 ↓在新标签页中打开
语音合成
在典型的语音对话系统中,语音合成(Text-to-Speech,TTS)位于处理链路的末端,负责把语言模型生成的文本回复转换为可播放的语音波形,与语音识别、自然语言理解与生成共同构成完整的语音交互能力。1717语音人工智能 Voice AI 详解四:系统组成与数据流(上) - 声网shengwang.cn前往参考资料 ↓在新标签页中打开
语音智能体的典型数据流可概括为 Audio → ASR → LLM → TTS:用户语音先经语音识别转写为文本,由大语言模型生成回复文本,再由语音合成模型输出拟真语音,形成从语音输入到语音输出的闭环。1717语音人工智能 Voice AI 详解四:系统组成与数据流(上) - 声网shengwang.cn前往参考资料 ↓在新标签页中打开
在工程实现上,语音合成通常被封装为独立、高内聚的底层能力子系统,与语音识别、大语言模型、音频 I/O 等模块并列,不承载业务逻辑,只对外提供纯粹的合成能力,由上层服务编排层调度以完成具体业务流程。1616docs/architecture.md · MoYoYoTech/VoiceDialogue at mainhuggingface.co前往参考资料 ↓在新标签页中打开
端到端语音模型
传统语音对话系统采用三级级联结构,即语音识别(ASR)、大语言模型(LLM)与文本转语音(TTS)依次串联;端到端语音模型正是相对于这一级联范式提出的替代路线。2020WavChat: A Survey of Spoken Dialogue Modelsar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
端到端语音模型的核心思路是让模型直接以语音为输入、以语音为输出,在单一模型中完成理解与生成,从而省去级联结构中的中间文本瓶颈。2020WavChat: A Survey of Spoken Dialogue Modelsar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开|1818Spoken Conversational Agents with Large Language Modelsaclanthology.org前往参考资料 ↓在新标签页中打开
从级联走向端到端是当前口语对话智能体演进的总体方向,相关研究综述把这一路径概括为从级联 ASR/NLU 到端到端、并进一步与检索和视觉信息结合的系统。1818Spoken Conversational Agents with Large Language Modelsaclanthology.org前往参考资料 ↓在新标签页中打开
端到端语音模型的一条常见实现路径是把已有的文本大语言模型适配到音频模态,并进行跨模态对齐与语音—文本联合训练,而不是从零训练一个纯语音模型。1818Spoken Conversational Agents with Large Language Modelsaclanthology.org前往参考资料 ↓在新标签页中打开
端到端语音模型的设计需要在若干关键取舍上做选择,包括级联与端到端之争、识别后纠错是否保留、以及是否采用流式处理;这些选择直接影响系统的延迟与鲁棒性。1818Spoken Conversational Agents with Large Language Modelsaclanthology.org前往参考资料 ↓在新标签页中打开
端到端语音模型在口音等声学条件变化下的鲁棒性,是评测中需要专门考察的维度,相关研究把跨口音鲁棒性与数据集、评价指标并列为该方向的基础议题。1818Spoken Conversational Agents with Large Language Modelsaclanthology.org前往参考资料 ↓在新标签页中打开
发展演进
早期语音识别研究
现代语音识别研究的公认起点通常追溯到 1952 年贝尔实验室(Bell Labs)的 Audrey 系统:它用模拟电子电路对单个说话人的十个英文数字做逐字识别,依靠共振峰频带的能量分布进行模板匹配,识别率对熟悉说话人可达 97% 以上,但完全不能跨说话人、跨词表工作。2121The Past, Present, and Future of Speech Processingieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
1950 年代至 1960 年代,语音识别的基本范式是「孤立词 + 模板匹配」:先为每个词录制参考模板,识别时把输入语音的声学特征与模板逐一比对,取距离最小者。这一范式在 1960 年代由 RCA 实验室、伦敦大学学院等机构扩展到少量词汇的连续语音尝试,但受限于模拟电路与存储容量,词表规模普遍停留在个位数到几十个词。2222A Historical Perspective of Speech Recognitioncacm.acm.org前往参考资料 ↓在新标签页中打开
1960 年代,苏联研究者 Vintsyuk 提出了用动态规划对齐两段语音的时变思想,即后来所称的动态时间规整(Dynamic Time Warping, DTW)的雏形;由于冷战时期的文献隔阂,这一工作长期未进入西方主流引用,直到 1970 年代才被重新发现并系统化。2323Dynamic Time Warping (DTW) — historical notes and Vintsyuk's contributionlink.springer.com前往参考资料 ↓在新标签页中打开
1970 年代,Itakura 将线性预测编码(LPC)引入语音识别,把语音信号建模为线性时变系统的输出,用少量预测系数刻画声道特性;同时期的动态时间规整被系统化,使「LPC 特征 + DTW 匹配」成为 1970 年代孤立词识别的主流技术路线。2424Minimum Prediction Residual Principle Applied to Speech Recognitionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|2525Linear Prediction: A Tutorial Reviewieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
1970 年代,美国国防高级研究计划局(DARPA)启动了面向语音理解的资助计划,推动卡内基梅隆大学、BBN、斯坦福研究院等机构在连续语音识别上展开可比性评测,这一「任务定义 + 统一评测」的组织方式对后续语音识别研究产生了长期影响。2626DARPA Speech Recognition Research Program — A Retrospectiveieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
1980 年代,隐马尔可夫模型(HMM)被系统引入语音识别,把语音看作不可观测的马尔可夫状态序列产生的观测序列,用概率框架统一处理声学变异与时间对齐;HMM 与高斯混合模型(GMM)结合,逐步取代模板匹配成为主流声学建模方法。2727A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognitionieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|2828Fundamentals of Speech Recognitionpearson.com前往参考资料 ↓在新标签页中打开
1980 年代中后期,n-gram 统计语言模型被引入大词汇量连续语音识别,与 HMM 声学模型通过维特比解码结合,形成「声学模型 + 语言模型 + 发音词典」的解码框架,这一结构在此后二十余年里基本保持稳定。2828Fundamentals of Speech Recognitionpearson.com前往参考资料 ↓在新标签页中打开|2929A Maximum Entropy Approach to Natural Language Processingaclanthology.org前往参考资料 ↓在新标签页中打开
统计方法与深度学习的转折
20世纪70年代起,隐马尔可夫模型(HMM)被引入语音识别,使系统能够对语音的时序动态特性建模,并与N-gram统计语言模型配合,形成“声学模型+语言模型”的双引擎架构,标志着语音识别从手工规则匹配转向统计建模。3232从机械到智能:语音识别技术的演进与突破cloud.baidu.com前往参考资料 ↓在新标签页中打开
在统计建模阶段,梅尔频率倒谱系数(MFCC)于20世纪80年代成为标准声学特征,HMM-GMM(高斯混合模型)框架趋于成熟并支持连续语音识别,N-gram语言模型则用于降低语法层面的错误率。3232从机械到智能:语音识别技术的演进与突破cloud.baidu.com前往参考资料 ↓在新标签页中打开
1997年卡内基梅隆大学的Sphinx系统实现了约1000词中等词汇量的实时识别,错误率降至20%以下,是统计方法时期具有代表性的工程成果。3232从机械到智能:语音识别技术的演进与突破cloud.baidu.com前往参考资料 ↓在新标签页中打开
统计方法路线存在两个公认瓶颈:高斯混合模型对复杂声学变体的建模能力有限;特征工程与模型训练相互分离,导致整体优化困难。这两点构成了后续转向神经网络声学建模的直接动因。3232从机械到智能:语音识别技术的演进与突破cloud.baidu.com前往参考资料 ↓在新标签页中打开
消费级语音助手的普及
2011 年苹果发布 Siri,被普遍视为语音用户界面进入消费级市场的标志性事件:它把连续语音识别、自然语言理解与语音合成打包进智能手机,使普通消费者第一次能在日常设备上以自然语言完成查询、设闹钟、发短信等操作。3434语音交互wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
消费级语音助手的普及依托于一条相对固定的技术链路:语音采集、语音识别、自然语言处理与语音合成,四者串联构成从声音到语义再回到声音的闭环,任一环节的延迟或错误都会直接反映为用户可感知的交互失败。3434语音交互wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
从技术演进的分期看,消费级语音助手的普及对应的是从「指令响应阶段」向「对话理解阶段」的过渡:早期系统以模式匹配为主、词汇量有限,只能响应固定命令;2010 年代前后的系统开始支持多轮对话与意图理解,才使助手类产品具备日常可用性。3434语音交互wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
消费级语音助手的普及并非单点技术突破的结果,而是识别准确率提升、移动终端算力与联网能力增强、云端推理成本下降共同作用的产物;其普及形态也由此呈现为「端上唤醒 + 云端理解」的混合架构。3434语音交互wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
随着助手类产品进入家庭场景,语音交互的标准化需求随之出现:2025 年市场监管总局发布了《智能家用电器的语音交互技术 第 1 部分:通用要求》等国家标准,对家用电器中的语音交互提出通用技术要求。3434语音交互wapbaike.baidu.com前往参考资料 ↓在新标签页中打开
典型应用场景
智能音箱与家庭助手
智能音箱与家庭助手是语音交互在消费级场景中最具代表性的落地形态:用户以语音指令完成家居设备控制、内容播放与生活服务调用,无需起身或手动操作屏幕。3535不用抬手的日常:智慧语音助手是怎么悄悄“包办”你生活的?_讯飞开放平台xfyun.cn前往参考资料 ↓在新标签页中打开|3636AI语音大模型的应用-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
在家庭场景中,语音助手可承担照明与空调等环境调节、按剧名直接跳转播放、以及联动设备发出提示音寻找遥控器等任务,把原本需要多次手动点选的操作压缩为一句指令。3535不用抬手的日常:智慧语音助手是怎么悄悄“包办”你生活的?_讯飞开放平台xfyun.cn前往参考资料 ↓在新标签页中打开
智能音箱作为智能家居的“中枢”,通过语音指令对家电进行精准控制,并兼容 Wi-Fi、蓝牙、Matter 等主流连接协议,支持手机、音箱、车机之间的跨设备协同。3636AI语音大模型的应用-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
搭载语音大模型后,智能音箱的能力从执行基础开关操作扩展到依据用户习惯主动推荐服务,例如检测到阴天时主动拉开窗帘并打开补光灯。3636AI语音大模型的应用-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
家庭语音助手已能串联第三方生活服务:用户口述想吃的菜品,助手即可打开常用外卖应用、选好收货地址并提交订单,全程无需在屏幕上点选。3535不用抬手的日常:智慧语音助手是怎么悄悄“包办”你生活的?_讯飞开放平台xfyun.cn前往参考资料 ↓在新标签页中打开
手机与可穿戴设备
在手机应用中,语音搜索是最早普及的语音交互形态之一,可覆盖地图导航、浏览器搜索等场景,其核心价值在于解放双手,并可集成到任何形式的手机应用里。3838应用场景help.aliyun.com前往参考资料 ↓在新标签页中打开
语音短消息是手机端语音交互的典型用法:用户发送或接收语音消息时,系统利用音频转文字能力生成文本,实现音频内容的快速预览,从而避免逐条播放。3838应用场景help.aliyun.com前往参考资料 ↓在新标签页中打开
语音合成能力被用于为智能家居、音箱、车载和可穿戴设备赋予拟人化的声音,说明可穿戴设备是语音合成技术明确列出的落地终端类别之一。3838应用场景help.aliyun.com前往参考资料 ↓在新标签页中打开
2025年9月,京东科技发布购物智能体“JoyGlance”,演示了在智能可佩戴终端上以“看”加“说”的方式完成购物:语音唤起智能体后注视物品1至2秒即可识别商品并匹配商城同款链接,再用语音完成选择、加购或支付下单,全程无需手机辅助。3737京东科技发布购物智能体“JoyGlance” 打造购物新入口m.cnstock.com前往参考资料 ↓在新标签页中打开
京东科技方面称,JoyGlance 采用多模态生物特征融合技术,支持用户自主设定语义关键词并结合声纹特征进行双重验证,以应对眼镜丢失后的盗刷风险;其防录音攻击、防声纹合成等攻防测试表现被描述为可满足金融级安全场景需求。3737京东科技发布购物智能体“JoyGlance” 打造购物新入口m.cnstock.com前往参考资料 ↓在新标签页中打开
智能座舱
智能座舱是语音交互最典型的落地场景之一:车内免提、多任务并行的环境使语音成为驾驶中相对安全、自然的主要输入方式,语音助手由此从早期的固定指令识别,演化为覆盖导航、媒体、车控、通讯等功能的座舱交互入口。3939豆包座舱助手发布 首款合作车型荣威家越07即将预售-上海证券报·中国证券网cnstock.com前往参考资料 ↓在新标签页中打开
2026年9月17日,豆包与火山引擎联合打造的AI原生车载助手「豆包座舱助手」正式发布,标志着大模型能力开始以原生车载助手形态进入量产座舱。3939豆包座舱助手发布 首款合作车型荣威家越07即将预售-上海证券报·中国证券网cnstock.com前往参考资料 ↓在新标签页中打开
豆包座舱助手已与上汽集团达成合作,首款搭载该助手的车型为荣威家越07,即将开启预售;上汽奥迪相关车型也将于年内亮相,年内还将有更多新车型、新功能陆续推出。3939豆包座舱助手发布 首款合作车型荣威家越07即将预售-上海证券报·中国证券网cnstock.com前往参考资料 ↓在新标签页中打开
呼叫中心与客服
呼叫中心与客服是语音交互最早、规模最大的落地场景之一:智能对话机器人产品通常把「在线人机交互」与「语音人机交互」并列为两大类应用,其中语音类场景覆盖呼入与呼出两类呼叫行为,需要由呼叫中心侧调用语音识别(ASR)与语音合成(TTS)把语音转为文本、再把回复文本转回语音,机器人只负责对话理解与应答决策。4141应用场景help.aliyun.com前往参考资料 ↓在新标签页中打开
在呼叫中心集成形态上,语音机器人既可以由企业自行在自有呼叫中心产品上调用 ASR/TTS 服务再接入对话引擎,也可以直接采用厂商提供的成品化产品,例如智能语音导航(面向呼入)与智能外呼机器人(面向呼出),从而省去自行拼接语音链路的工程工作。4141应用场景help.aliyun.com前往参考资料 ↓在新标签页中打开
客服语音交互并不只服务于「机器直接接待客户」:同一套对话能力还可以嵌入人工客服工作台,在人工坐席接待过程中实时给出机器人回复建议或推荐结果,形成「人机协同」的辅助模式,此时对话能力与知识库仍需在后台持续维护并通过接口集成到坐席系统。4141应用场景help.aliyun.com前往参考资料 ↓在新标签页中打开
主流云厂商把客服语音交互定位为「自主自助服务 + 坐席实时辅助」的组合:客户协助类智能体在前端用生成式 AI 理解客户意图、通过动态追问澄清需求并借助知识库与已配置工具自主解决问题,遇到需要升级的复杂案例时则连同意图等上下文一并转交人工坐席,以保证交接顺畅。4040Configure the Customer Assist Agent - Traininglearn.microsoft.com前往参考资料 ↓在新标签页中打开
客服智能体在渠道层面趋向全渠道一致:同一套智能体可跨语音、在线聊天、短信与社交消息等渠道工作,使客户无论从哪个渠道接入都获得一致的服务体验,语音只是其中一个(但交互难度最高的)入口。4040Configure the Customer Assist Agent - Traininglearn.microsoft.com前往参考资料 ↓在新标签页中打开
2025 年底,Amazon Connect 推出代理式自助服务(agentic self-service),让 AI 代理在语音与消息渠道中完成理解、推理与操作,可自动化处理常规乃至较复杂的客服任务;其做法是把确定性流程与代理式体验融合,以便在规模化部署时保持安全可靠。4242Amazon Connect 推出代理式自助服务,实现更自然、富有表现力且自适应的语音交互aws.amazon.com前往参考资料 ↓在新标签页中打开
无障碍与辅助交互
语音交互在无障碍领域的核心价值是把一种感官通道的信息转译为另一种通道:面向听障人群的实时语音转文字,把声音变成可读文本;面向视障人群的语音合成与三维音效描述,把视觉场景变成可听的空间信息。这一「跨通道转译」定位是语音无障碍应用区别于一般语音助手的基本特征。4343中国残疾人联合会手机版cdpf.org.cn前往参考资料 ↓在新标签页中打开
智能助听器借助 AI 算法分离人声与背景噪声,并可生成实时字幕;相比传统助听器,这类设备不需要专业调试、也不需要植入耳蜗,佩戴即可使用,显著降低了听障辅助技术的使用门槛。4343中国残疾人联合会手机版cdpf.org.cn前往参考资料 ↓在新标签页中打开
视障人群可通过 AI 导盲眼镜以三维音效描述「听」到周围环境,这类产品把深度相机或摄像头采集的空间信息编码为方向性声音,使用户在不依赖视觉的情况下建立对障碍物与通道的空间感。4343中国残疾人联合会手机版cdpf.org.cn前往参考资料 ↓在新标签页中打开
在手机端,语音转换与智能对话等无障碍技术使听障、视障用户能够完成阅读、学习等日常任务,说明语音交互的无障碍价值不仅体现在专用硬件上,也体现在通用智能终端的能力下沉上。4343中国残疾人联合会手机版cdpf.org.cn前往参考资料 ↓在新标签页中打开
视障开发者周富贵开发的「掌中世界」应用结合大模型的场景识别能力,可在用户打开手机摄像头后实时播报环境描述,例如提示前方台阶与右侧便利店;这类应用把语音输出作为视觉场景的唯一呈现通道,对播报的及时性与准确性要求高于普通语音助手。4343中国残疾人联合会手机版cdpf.org.cn前往参考资料 ↓在新标签页中打开
面向行动不便者的「无障碍地图」类应用通过 AI 识别坡道、电梯等设施来规划出行路线,其交互通常以语音查询与语音播报为主,属于语音交互与空间信息结合的辅助出行场景。4343中国残疾人联合会手机版cdpf.org.cn前往参考资料 ↓在新标签页中打开
智能座舱中的语音交互
车内噪声与远场拾音
车内语音交互的拾音问题本质上是远场拾音问题:用户与麦克风之间通常有 0.5 米以上的距离,且说话人位置不固定、可能偏离麦克风主轴,导致直达声能量随距离平方衰减,混响与背景声占比上升,识别前端信噪比显著低于手机等近场场景。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
座舱内最主要的干扰源是车载扬声器自身播放的音频(音乐、导航播报、提示音、通话回放)。扬声器信号被麦克风拾取后形成声学回声,若不处理,语音识别前端会把回声当作人声内容,造成误识别甚至误触发。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
声学回声消除(AEC)是车内远场拾音链路的第一道关键环节。其基本做法是以扬声器播放的参考信号(远端信号)为输入,自适应估计从扬声器到麦克风的声学回声路径,再从麦克风信号中减去估计出的回声分量。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
车内 AEC 的一个核心难点是双讲(double-talk)检测:当用户说话与扬声器播放同时发生时,自适应滤波器容易被近端语音带偏,产生发散或回声路径估计失准。因此需要依据残余回声与残余信号函数判断当前处于单讲还是双讲状态,并据此调整滤波器更新策略。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
已有专利方案提出利用残余回声估计结果结合残余信号函数来判定车内单讲/双讲状态,并通过改进回声估计质量来提升回声消除效果,说明双讲状态判别在工程实现中仍被视为需要专门设计的环节,而非可以默认忽略的细节。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
现有回声消除技术在实际车内环境中仍存在相关性判断或远端信号能量差判断上的低相关、易混淆等问题,这类失准会直接传导到语音识别准确率,进而构成驾驶安全层面的隐患。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
车内噪声并非单一稳态噪声,而是由发动机/电机噪声、胎噪与风噪(随车速变化)、空调与风扇气流声、雨刮与路面冲击、乘员交谈以及媒体音频叠加而成的非平稳混合噪声,其频谱与电平随车速、路况和车内乘员状态持续变化,难以用固定噪声模型刻画。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
远场拾音的工程链路通常不是单一模块,而是由多麦克风阵列波束成形、回声消除、去混响、降噪与自动增益控制级联构成,各模块之间存在耦合:AEC 残留会污染波束成形的协方差估计,降噪过强又会损伤语音谱造成识别退化。4444CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
方言与口音适应
智能座舱中的方言与口音适应,指车载语音系统在识别与理解环节对非标准普通话(方言词汇、方言音系、带地方口音普通话)的适配能力,其目标是让不使用标准普通话的驾乘者也能以自然口语完成车控、导航、娱乐等指令。45458大方言、12种口音精准识别!宝骏享境携手DeepSeek推出“灵语”智能座舱m.mydrivers.com前往参考资料 ↓在新标签页中打开
2025年3月发布的宝骏享境“灵语”智能座舱宣称支持粤语、四川话、重庆话、河北话、河南话、山东话、上海话、天津话共8种方言,以及广西、河南、湖北、湖南、江苏、山东、广东、浙江、安徽、河北、福建、四川等12种重口音的识别。45458大方言、12种口音精准识别!宝骏享境携手DeepSeek推出“灵语”智能座舱m.mydrivers.com前往参考资料 ↓在新标签页中打开
宝骏方面公布的数据为方言识别率超过95%、口音识别率可达99%;这类指标由厂商自行发布,其测试语料、噪声条件与统计口径未在公开报道中说明,因此应视为厂商宣称值而非第三方评测结论。45458大方言、12种口音精准识别!宝骏享境携手DeepSeek推出“灵语”智能座舱m.mydrivers.com前往参考资料 ↓在新标签页中打开
在技术实现上,灵语智能座舱将重口音及多方言语音识别技术与预训练模型、自然语言理解技术结合,并引入知识蒸馏,以在车载算力约束下维持对方言口音指令的语义理解能力。45458大方言、12种口音精准识别!宝骏享境携手DeepSeek推出“灵语”智能座舱m.mydrivers.com前往参考资料 ↓在新标签页中打开
座舱内的方言口音问题与多人交谈场景耦合:灵语座舱采用多音区对话分离技术与降噪算法,用于在多人交谈中分离并捕捉有效指令,这说明方言适应并非孤立的声学识别问题,还需与声源定位、语音分离和降噪协同处理。45458大方言、12种口音精准识别!宝骏享境携手DeepSeek推出“灵语”智能座舱m.mydrivers.com前往参考资料 ↓在新标签页中打开
多轮对话与上下文
车载语音识别系统长期受困于上下文理解能力不足与歧义消解能力有限,导致用户意图识别不准、交互挫败感上升;这是多轮对话能力被引入座舱的核心动因。4646LLM ContextBridge: A Hybrid Approach for Intent and Dialogue Understanding in IVSRaclanthology.org前往参考资料 ↓在新标签页中打开
学界提出的一类混合架构思路是:用预训练语言模型承担意图分类,用大语言模型承担对话管理与上下文处理,二者桥接以兼顾传统自然语言理解的精确意图识别与大模型的上下文推理和歧义消解能力。4646LLM ContextBridge: A Hybrid Approach for Intent and Dialogue Understanding in IVSRaclanthology.org前往参考资料 ↓在新标签页中打开
在座舱多轮对话的工程实现中,上下文管理通常包含上下文继承、指代消解与意图改写三类手段,目的是在多轮之间保持语义连贯,并处理模糊意图与代词指代。4747AquaClaw for Auto - AI驱动的智能座舱操作系统thundersoft.com前往参考资料 ↓在新标签页中打开
部分座舱方案在上下文管理之外还引入视觉信息融合分析,使语音多轮对话能够借助舱内视觉信号消解指代与补全语义。4747AquaClaw for Auto - AI驱动的智能座舱操作系统thundersoft.com前往参考资料 ↓在新标签页中打开
与其他模态的协同
智能座舱的交互形态已从物理按键、屏幕触控、语音指令三个阶段,演进到以大模型驱动的多模态自然交互阶段;在这一阶段,语音不再是孤立入口,而是与图像、GUI、舱内外摄像头、底盘 CAN 信号等多源输入统一接入同一多模态模型。4848联友智连发布AI原生多模态座舱平台MSP- DoNewsdonews.com前往参考资料 ↓在新标签页中打开
传统三段式语音架构(前端识别、语义理解、后端执行分段串联)存在句式固定、理解能力弱、模块割裂、OTA 升级缓慢等问题,难以融合摄像头、车控信号与环境数据,这是语音需要与其他模态协同的工程动因之一。4848联友智连发布AI原生多模态座舱平台MSP- DoNewsdonews.com前往参考资料 ↓在新标签页中打开
在多模态协同的实现路径上,一种做法是取消前端对输入模态的格式化区分,把语音、图像、GUI、摄像头与车身信号统一送入多模态大模型,由模型侧完成跨模态理解与推理,而不是在语音模块之外另建独立的视觉管线再拼接结果。4848联友智连发布AI原生多模态座舱平台MSP- DoNewsdonews.com前往参考资料 ↓在新标签页中打开
语音与视觉的协同在工程上体现为对实时接入的语音、视觉、车身信号等多模态信号做前置过滤与归一化,再基于对话内容提取语义关键词、情感特征与指代特征,用于判定响应层级。4747AquaClaw for Auto - AI驱动的智能座舱操作系统thundersoft.com前往参考资料 ↓在新标签页中打开
指代消解是多模态协同的关键环节:座舱需要结合上下文继承、指代消解与意图改写,并融合视觉信息来分析,才能处理“这个”“那个”一类依赖现场视觉语境的模糊指代。4747AquaClaw for Auto - AI驱动的智能座舱操作系统thundersoft.com前往参考资料 ↓在新标签页中打开
语音与情绪模态的协同采用多模态分析:融合语音信号(语速、音调、停顿)与语义内容(关键词、情感极性)判定用户情绪状态,再据此动态调整播报语速、音色与文案风格。4747AquaClaw for Auto - AI驱动的智能座舱操作系统thundersoft.com前往参考资料 ↓在新标签页中打开
在意图仲裁层面,多模态协同的产出被分为快速执行、快思考、慢思考三层响应分级,即系统依据融合后的信息决定是立即执行、轻量推理还是调用更重的推理链路,而非对所有请求一视同仁。4747AquaClaw for Auto - AI驱动的智能座舱操作系统thundersoft.com前往参考资料 ↓在新标签页中打开
专利文献显示,车载智能座舱可通过采集语音、行为、生理特征等多模态数据生成用户意图指令并做舒适度评分,进而确定设备优先级与能量分配策略,说明语音与其他模态的协同不仅服务于交互,也延伸到车控与环境调节决策。4949CN120270188A – Self-adaptive environment adjusting method and device for vehicle-mounted intelligent cabin | Patsnap Eurekaeureka.patsnap.com前往参考资料 ↓在新标签页中打开
关键挑战
噪声与远场鲁棒性
远场语音交互的首要困难在于:用户与设备之间距离拉大后,直达声能量随距离衰减,而混响与背景噪声不随距离同等衰减,导致信噪比与直达混响比同时恶化,识别前端必须在这样的条件下仍能稳定拾取目标语音。5050Making voice assistants betteriis.fraunhofer.de前往参考资料 ↓在新标签页中打开|5151音訊技術的進步有助於人形機器人在真實世界中聽說自如ti.com前往参考资料 ↓在新标签页中打开
麦克风阵列加波束成形是应对噪声与远场问题的核心手段:波束成形对各个麦克风信号施加精确计算的时间延迟,把收音模式在电子层面导向目标声源方向,从而隔离声源并清晰拾取远场音频。5151音訊技術的進步有助於人形機器人在真實世界中聽說自如ti.com前往参考资料 ↓在新标签页中打开
在真实环境中有效工作的人形机器人,其录音路径通常依赖布置在头部周围、由四个以上麦克风组成的阵列,阵列规模过小难以形成足够的空间选择性。5151音訊技術的進步有助於人形機器人在真實世界中聽說自如ti.com前往参考资料 ↓在新标签页中打开
波束成形之外还需针对目标声源特征做额外调校,例如针对人类语音的频谱与空间特征优化拾音,否则在嘈杂环境中对语音与其他声音的区分能力有限。5151音訊技術的進步有助於人形機器人在真實世界中聽說自如ti.com前往参考资料 ↓在新标签页中打开
设备同时播放语音输出与采集语音输入时,扬声器输出会被麦克风拾取形成声学回波,系统必须采用噪声抑制与声学回波消除技术,才能在不降低任一信号质量的前提下实现双向同时交互。5151音訊技術的進步有助於人形機器人在真實世界中聽說自如ti.com前往参考资料 ↓在新标签页中打开
噪声与远场鲁棒性不是单一算法问题,而是贯穿整条音频信号链的工程问题:从麦克风聚合器、模数转换,到波束成形与降噪算法,再到高效率放大器,任一环节的不足都会传导为最终的识别失败。5151音訊技術的進步有助於人形機器人在真實世界中聽說自如ti.com前往参考资料 ↓在新标签页中打开
语音助手要在工业等真实场景中可靠工作,前提是能清晰“听见”语音命令,因此音频预处理被列为语音助手平台的关键模块之一,与语音识别、自然语言理解、对话管理、语音合成并列。5050Making voice assistants betteriis.fraunhofer.de前往参考资料 ↓在新标签页中打开
方言、口音与语种
语音交互系统在从通用场景走向下沉市场与垂直行业时,首先遭遇的是口音与方言带来的识别性能断崖:中老年用户方言口音较重时,面向标准普通话训练的通用声学模型识别准确率会显著下降,导致交互不可用或必须转人工兜底。5353打破“水土不服”困境:方言+多语种能力破解语音交互垂直场景定制难题_讯飞开放平台xfyun.cn前往参考资料 ↓在新标签页中打开
多语种与多民族语言覆盖不足是语音交互规模化的第二重障碍:跨境业务、多民族地区的交互需求往往无法被单一语种的通用模型覆盖,只能依靠人工翻译或人工坐席,推高了落地成本并限制了服务半径。5353打破“水土不服”困境:方言+多语种能力破解语音交互垂直场景定制难题_讯飞开放平台xfyun.cn前往参考资料 ↓在新标签页中打开
产业界应对上述挑战的主流路径是「定向语料采集 + 专属声学模型微调」:针对具体垂直场景采集方言与小语种语音数据,对通用 ASR 模型做场景化微调,从而在特定场景内恢复可用精度,而非依赖一个通吃所有口音的通用模型。5353打破“水土不服”困境:方言+多语种能力破解语音交互垂直场景定制难题_讯飞开放平台xfyun.cn前往参考资料 ↓在新标签页中打开
截至相关厂商公开披露,方言与多语种能力已可覆盖国内 20 余种主流方言、130 余种国际语言,并支持藏语、维吾尔语等少数民族语言的识别;这些数字属于厂商自述的覆盖范围,实际精度随方言与场景差异较大,不宜直接等同于同等水平的可用性。5353打破“水土不服”困境:方言+多语种能力破解语音交互垂直场景定制难题_讯飞开放平台xfyun.cn前往参考资料 ↓在新标签页中打开
在学术侧,应对语言与文化多样性的一个方向是语言无关(language-agnostic)建模:利用 mBERT、XLM-R 等预训练多语言嵌入并以区域数据微调,使系统在缺乏目标语言标注资源时仍具备可用性,同时引入语调、语速等社会语言学上下文特征来提升跨语言表现。5252Referencesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
低资源语言是方言与语种问题的极端形态:当目标语言既无充足标注数据也无现成声学知识时,示例查询式口语词检出(Query-by-Example Spoken Term Detection)等无需文本转写的检索范式被视为可行替代,其动机正是为低资源语言提供不依赖大词表的语音检索能力。5252Referencesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
多轮对话与指代消解
多轮对话中的指代消解,指系统需要把用户后续话语中的省略与代词(如「那个」「它」「换成红色的」)回指到前文已出现的实体或槽位,否则单轮理解正确也无法完成跨轮任务。5454AI赋能对话:语音交互与智能客服的落地实践cloud.baidu.com前往参考资料 ↓在新标签页中打开
工程上通常用对话状态跟踪(DST)配合槽位填充来承载跨轮信息,把用户需求记录为结构化的槽值对(如「颜色:红色;尺寸:XL」),使后续轮次的指代有可回指的载体。5454AI赋能对话:语音交互与智能客服的落地实践cloud.baidu.com前往参考资料 ↓在新标签页中打开
为处理历史对话并解决指代消解问题,实践中会引入记忆网络(MemNN)一类带记忆的模型结构,把多轮历史编码后参与当前轮的理解。5454AI赋能对话:语音交互与智能客服的落地实践cloud.baidu.com前往参考资料 ↓在新标签页中打开
隐私与始终监听问题
语音交互中的“始终监听”指设备麦克风与唤醒词检测模块全天候运行,但设计上只做本地关键词匹配、不录音不上传,只有唤醒词命中后才把后续语音送往云端处理;这一“本地判定、唤醒后上云”的分工是缓解隐私担忧的基本架构。5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
唤醒词检测必须在设备本地完成,原因在于若把全天录音上传云端再由服务器判断是否被呼叫,隐私便已无从保障;因此本地化不仅是功耗与延迟的工程选择,也是隐私保护的硬约束。5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
始终监听带来的隐私风险并不止于“是否上传”:麦克风持续采集意味着设备在物理上具备捕获居所内全部对话的能力,用户对“何时在听、听了什么、存了多久”缺乏可感知的证据,这种信息不对称本身构成信任问题。5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
多模态协同
语音与触控
在车载场景中,语音与触控并非替代关系,而是互补关系:语音适合导航目的地设定、媒体搜索等开放式、远场任务,触控则在菜单选择、精确调节(如空调温度、音量)等闭集任务上更直接高效。5656Multimodal Interaction in Automotive User Interfaces: A Reviewtandfonline.com前往参考资料 ↓在新标签页中打开|5757Speech and Touch: Complementary Modalities for In-Car Interactiondl.acm.org前往参考资料 ↓在新标签页中打开
多模态协同的核心技术挑战之一是模态对齐与融合:语音指令的语义解析结果需要与触控位置、界面焦点等上下文信息在时间与语义上对齐,才能正确消歧(例如“这个”指代触控选中的对象)。5858Multimodal Fusion for Speech and Touch: A Surveyieeexplore.ieee.org前往参考资料 ↓在新标签页中打开|5959Aligning Speech and Gesture in Multimodal Interfacesdl.acm.org前往参考资料 ↓在新标签页中打开
语音与触控的协同可降低驾驶分心:当语音识别置信度低或指令模糊时,系统通过触控界面提供候选确认,比纯语音反复澄清或纯触控逐级菜单更少占用视觉通道。6060Reducing Driver Distraction through Multimodal Interaction: A Simulator Studysciencedirect.com前往参考资料 ↓在新标签页中打开|6161Touch and Speech: A Multimodal Approach to Reduce Visual Demanddl.acm.org前往参考资料 ↓在新标签页中打开
在智能座舱中,语音与触控的融合常采用“语音唤醒+触控选择”的混合交互模式,例如用户说出“导航到某地”后,中控屏列出多个候选地址,用户通过触控点选确认。6262Multimodal Interaction in Smart Cockpits: Speech and Touchdl.acm.org前往参考资料 ↓在新标签页中打开|6363Designing Multimodal In-Car Interfaces: Best Practicesdl.acm.org前往参考资料 ↓在新标签页中打开
语音与视觉
多模态协同中的「语音与视觉」指语音通道(识别、合成、对话)与视觉通道(图像、视频、文档版面、面部与口型等)在同一对话系统中被联合建模或联合调度,使语音输入能引用视觉上下文、视觉输出能与语音同步生成。6666A Multimodal AI Dialogue System for Unified Document, Visual, and Audio Interaction | IJCAIijcai.org前往参考资料 ↓在新标签页中打开|6767U-Mind: A Unified Framework for Real-Time Multimodal Interaction with Audiovisual Generationar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
IJCAI 2025 展示的多模态智能对话系统在统一 Web 界面内整合了文档分析、视觉媒体处理与音频交互,并通过持续的会话管理完成用户身份核验,其跨媒体交互覆盖视频、图像与实时语音处理三类输入。6666A Multimodal AI Dialogue System for Unified Document, Visual, and Audio Interaction | IJCAIijcai.org前往参考资料 ↓在新标签页中打开
该系统把文本文档分析、动态上下文整合与跨媒体交互作为三项关键设计,说明语音与视觉的协同并非简单并联两个模块,而是依赖共享的对话上下文来维持跨轮次的一致性。6666A Multimodal AI Dialogue System for Unified Document, Visual, and Audio Interaction | IJCAIijcai.org前往参考资料 ↓在新标签页中打开
U-Mind 提出将语言、语音、动作与视频合成放在单一系统中联合建模,支持实时多模态对话生成,其动机是现有系统要么只能单模态生成,要么在跨模态对齐与推理上明显退化。6767U-Mind: A Unified Framework for Real-Time Multimodal Interaction with Audiovisual Generationar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
在具身智能方向,多模态交互系统已从脚本化应答与规则驱动的非言语线索,演进为整合多模态感知与大语言模型推理的形态,语音与视觉的协同因此从「界面层拼接」转向「感知—推理—生成」一体化。6767U-Mind: A Unified Framework for Real-Time Multimodal Interaction with Audiovisual Generationar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
语音与视觉协同的工程难点集中在跨模态对齐与时序同步:语音流是连续且低延迟的,视觉输入(视频帧、文档版面)则往往是离散或高带宽的,两者在实时对话中需要统一的时间基准与上下文窗口管理。6767U-Mind: A Unified Framework for Real-Time Multimodal Interaction with Audiovisual Generationar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
从系统形态看,语音与视觉的协同可分为两类落地路径:一类以统一 Web 界面承载文档、图像、视频与实时语音的跨媒体会话(如 IJCAI 2025 演示系统),另一类以实时生成语音与视频的具身对话体为目标(如 U-Mind),前者偏任务与信息处理,后者偏自然交互与表现力。6666A Multimodal AI Dialogue System for Unified Document, Visual, and Audio Interaction | IJCAIijcai.org前往参考资料 ↓在新标签页中打开|6767U-Mind: A Unified Framework for Real-Time Multimodal Interaction with Audiovisual Generationar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
语音与手势
语音与手势的协同属于多模态人机交互的典型组合:语音擅长承载语义与指代内容,手势擅长承载空间指向与连续量(如方向、距离、大小),二者在通道上互补,因而被用于弥补单一语音输入在自然性与包容性上的不足。6868Multimodal Gesture and Speech-Based Interaction Interfaces for AI-Driven Mobile Robots in Smart Homesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
在智能家居场景的自主移动机器人研究中,多模态手势与语音交互界面被作为传统输入方式(按键、遥控、单一语音指令)的替代方案提出,目标是实现更自然、更直观、更具适应性的用户参与方式。6868Multimodal Gesture and Speech-Based Interaction Interfaces for AI-Driven Mobile Robots in Smart Homesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
该类系统的研究内容通常覆盖设计、实现与评估三个环节,即不仅构建融合手势与语音的交互原型,还通过用户实验对可用性与交互效果进行评价。6868Multimodal Gesture and Speech-Based Interaction Interfaces for AI-Driven Mobile Robots in Smart Homesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
评价指标与用户体验
识别准确率
语音识别准确率通常定义为语音输入被正确转换为文本的比例,基本计算方式为「正确识别词数 ÷ 总词数 × 100%」;在工程实践中,更常用其补数形式词错误率(WER)来衡量,即替换、删除、插入三类错误词数之和除以参考文本总词数。6969重磅干货 | AI产品经理必知的语音交互评价指标全解析cloud.baidu.com前往参考资料 ↓在新标签页中打开
识别准确率的可接受基准高度依赖场景:行业实践文章给出的参考线是安静环境下识别准确率应在 95% 以上、嘈杂环境下应在 85% 以上,因此脱离声学环境与任务类型谈单一准确率数字没有意义。6969重磅干货 | AI产品经理必知的语音交互评价指标全解析cloud.baidu.com前往参考资料 ↓在新标签页中打开
评价识别准确率时还需按维度拆分标注:方言与口音覆盖范围(如粤语、带口音的普通话)及其准确率衰减阈值、垂直领域(医疗、法律等术语密集场景)的专项建模效果,都应作为独立指标分别报告,而不是合并成一个总体数字。6969重磅干货 | AI产品经理必知的语音交互评价指标全解析cloud.baidu.com前往参考资料 ↓在新标签页中打开
识别准确率只是语音交互准确性维度的一部分,与之并列的还有语义理解准确率,后者衡量用户意图被正确解析的比例,并需区分单轮意图识别与多轮上下文理解两种情形。6969重磅干货 | AI产品经理必知的语音交互评价指标全解析cloud.baidu.com前往参考资料 ↓在新标签页中打开
任务完成率与对话轮次
对话轮次(Number of Turns)衡量完成同一任务所需的交互回合数,轮次越少通常意味着系统理解与引导效率越高;在 PARADISE 等口语对话系统评价框架中,任务成功与对话效率(以轮次、时长等度量)被联合用于估计用户满意度。7171PARADISE: A Framework for Evaluating Spoken Dialogue Agentsaclanthology.org前往参考资料 ↓在新标签页中打开
响应延迟与打断处理
响应延迟是语音交互用户体验的核心指标之一,通常定义为从用户说完话(语音终点检测)到系统开始播放响应(首字音频输出)之间的时间间隔;在工程实践中常被拆分为端点检测延迟、网络传输延迟、服务端处理延迟和音频渲染延迟四部分。7272Voice User Interface Design: Response Time and Latencynngroup.com前往参考资料 ↓在新标签页中打开
Google 在其对话式搜索研究中指出,语音搜索的响应延迟每增加 100 毫秒,用户感知的满意度会显著下降;该研究将 300 毫秒以内的首字响应视为“接近即时”的体验阈值。7373Google Voice Search: Speed and User Satisfactionresearch.google前往参考资料 ↓在新标签页中打开
打断处理(barge-in)指用户在系统播报(TTS)过程中主动说话以中断当前输出并转入新一轮交互的能力;它是衡量语音交互自然度的重要维度,也是智能音箱、车载语音等场景的标配能力。7474Barge-in in Voice Assistants: A Reviewdl.acm.org前往参考资料 ↓在新标签页中打开
实现可靠的打断处理需要系统同时具备回声消除(AEC)、语音活动检测(VAD)和低延迟的播报中断机制;若回声消除不充分,系统可能把自身播报误判为用户语音,导致“自打断”或误唤醒。7575Acoustic Echo Cancellation for Barge-in Enabled Voice Interfacesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
在车载语音交互场景中,打断处理还面临路噪、风噪与多人对话的干扰,行业实践中通常要求系统在播报开始后 200 毫秒内即可响应用户的打断语音,否则用户会感到“说了没用”。7676In-Car Voice Assistant Latency and Barge-in Requirementssae.org前往参考资料 ↓在新标签页中打开
学术界对语音交互延迟的度量尚未形成统一标准:部分研究以“用户停止说话到系统开始说话”的绝对时间衡量,另一些研究则采用“用户感知等待”的主观评分(如 MOS 或 SUS)作为补充指标,两者并不总是一致。7777Measuring User Experience of Voice Assistants: A Systematic Reviewtandfonline.com前往参考资料 ↓在新标签页中打开|7878Subjective and Objective Latency Metrics for Conversational Agentsdl.acm.org前往参考资料 ↓在新标签页中打开
对立说法有研究认为客观延迟指标(如首字延迟)与主观用户体验评分高度相关,足以单独作为评价依据,无需引入主观量表。86
代表系统与产品
Siri
Siri 是苹果公司开发的智能语音助手,其名称来自 Speech Interpretation & Recognition Interface 的首字母缩写,可在 iPhone、iPad、iPod Touch、HomePod、Apple Watch、Apple TV、CarPlay 等设备上使用。8080Siriwapbaike.baidu.com前往参考资料 ↓在新标签页中打开
Siri 的典型功能包括信息查询、拨打电话、发送消息、导航、音乐播放与设备查找,并整合系统应用数据;用户主要通过“嘿 Siri”唤醒词或按住设备按键两种方式激活。8080Siriwapbaike.baidu.com前往参考资料 ↓在新标签页中打开
Siri 采用自然语言输入技术,能够持续学习用户的声音语调并提供对话式应答,并借助 Geo-LM 地理语言模型优化本地识别精度。8080Siriwapbaike.baidu.com前往参考资料 ↓在新标签页中打开
2024 年,苹果宣布为 Siri 集成生成式人工智能以升级对话交互能力,并发布融合 ChatGPT 的 Siri。8080Siriwapbaike.baidu.com前往参考资料 ↓在新标签页中打开
2025 年,苹果因 Siri 隐私诉讼支付 9500 万美元和解金并删除相关音频记录,同时推迟发布 Siri 对话式版本;法国检方亦因涉嫌未经同意收集用户录音对 Siri 展开调查。8080Siriwapbaike.baidu.com前往参考资料 ↓在新标签页中打开
Alexa
Alexa 是亚马逊推出的云端语音助手,最初随 Echo 系列智能音箱进入家庭场景,其核心交互方式是「唤醒词 + 云端识别与理解 + 语音合成应答」的远场免提对话。8181Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开|8282Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
2023 年前后,亚马逊为 Alexa 发布了基于大语言模型(LLM)的新一代对话式 AI 模型,官方定位是「更大、更通用、并针对语音应用优化」,可与用户就任意话题进行多轮对话。8181Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开|8282Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
新版 Alexa LLM 经过微调以可靠地完成 API 调用,从而执行开灯、调节房间温度等具体设备控制动作,这是把自然语言意图落到智能家居执行层的关键设计。8282Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
该模型具备基于推理的主动个性化能力,可主动突出日历事件、最近播放的音乐,甚至依据用户购物记录推荐食谱;同时设置了多种知识锚定机制以提升事实陈述的可靠性,并配有保护用户隐私的护栏。8181Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开|8282Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
Alexa 的自动语音识别(ASR)系统经历了一次覆盖机器学习模型、算法与硬件的整体重构,新 ASR 模型参数量达数十亿级,训练数据混合了短的目标导向话语与更长的对话式语音。8181Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开|8282Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
为承载更大的 ASR 模型,Alexa 的语音处理从基于 CPU 转向硬件加速(GPU)方案;由于 GPU 拥有大量并行核心,需要成批数据才能保持利用率,而 CPU 上逐帧处理 30 毫秒语音频谱快照的方式在 GPU 上效率低下。8181Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
Alexa 正在转向基于 LLM 架构的大规模文本转语音(LTTS)模型,训练数据为数千小时的多说话人、多语言、多口音、多说话风格音频。8181Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开|8282Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
亚马逊还展示了基于 LLM 的语音转语音(speech-to-speech)模型,可直接由输入语音生成输出语音,使 Alexa 表现出笑声等类人对话特征,并让韵律同时适配自身话语内容与说话者的韵律。8181Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开|8282Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云cloud.tencent.com.cn前往参考资料 ↓在新标签页中打开
Google Assistant
Google Assistant 是 Google 于 2016 年 5 月 I/O 开发者大会上发布的智能语音助手,最初随 Google Home 智能音箱和 Allo 消息应用亮相,定位为跨设备、对话式的个人助理。8383Google Assistant - Wikipediaen.wikipedia.org前往参考资料 ↓在新标签页中打开
Google Assistant 的技术链路以 Google 自研的语音识别、自然语言理解与语音合成模型为核心,早期依赖云端推理,2019 年起 Google 宣布将语音识别模型压缩到可在手机本地运行,实现端上离线识别。8484An All-Neural On-Device Speech Recognizerresearch.google前往参考资料 ↓在新标签页中打开
Google 通过 Actions on Google 平台向第三方开发者开放 Google Assistant 的会话能力,开发者可构建「Action」接入助手,该平台于 2016 年随 Assistant 一同推出。8585Actions on Google - developer documentationdevelopers.google.com前往参考资料 ↓在新标签页中打开
Google Assistant 的语音合成采用 WaveNet 及其后续的 Tacotron、WaveNet 组合方案,2017 年起 Google 将 WaveNet 用于 Assistant 的语音输出,显著提升了合成语音的自然度。8686WaveNet: A Generative Model for Raw Audiodeepmind.google前往参考资料 ↓在新标签页中打开|8787Natural TTS Synthesis by Conditioning WaveNet on Mel Spectrogram Predictionsarxiv.org前往参考资料 ↓在新标签页中打开
小爱同学与国内语音助手
小爱同学是小米公司于2017年7月26日随小米AI音箱一同发布的智能语音助手,最初定位为智能音箱的交互入口,后扩展至手机、电视、手环、车机等多类设备。9191小米AI音箱发布:小爱同学首次亮相mi.com前往参考资料 ↓在新标签页中打开
小爱同学采用“唤醒词+云端识别+技能路由”的典型链路:设备端以低功耗唤醒词检测触发,将音频上传至云端完成语音识别与自然语言理解,再由技能平台分发到音乐、天气、智能家居控制等具体服务。9292小爱开放平台技术文档developers.xiaoai.mi.com前往参考资料 ↓在新标签页中打开
小米在2019年开发者大会上宣布小爱同学接入的IoT设备品类超过2000种,并开放小爱开放平台供第三方开发者创建语音技能,形成“助手+生态”的扩展模式。9191小米AI音箱发布:小爱同学首次亮相mi.com前往参考资料 ↓在新标签页中打开
天猫精灵是阿里巴巴于2017年7月5日发布的智能音箱品牌,其语音助手“天猫精灵”依托阿里云ET大脑与达摩院语音技术,主打电商购物与家庭服务场景。9393天猫精灵发布:阿里巴巴推出智能音箱alibabagroup.com前往参考资料 ↓在新标签页中打开
百度于2017年发布DuerOS对话式人工智能操作系统,并推出小度系列智能音箱;DuerOS以开放平台形式向第三方硬件厂商授权,成为国内语音助手平台化输出的代表之一。9494DuerOS对话式人工智能操作系统发布dueros.baidu.com前往参考资料 ↓在新标签页中打开
科大讯飞是国内语音识别与合成技术的代表性供应商,其讯飞开放平台向开发者提供语音识别、语音合成、声纹识别等API,许多国内语音助手产品的底层语音能力来自该平台或与之同源的技术。9595讯飞开放平台:语音能力APIxfyun.cn前往参考资料 ↓在新标签页中打开
国内主流语音助手在唤醒词设计上普遍采用四字中文短语(如“小爱同学”“天猫精灵”“小度小度”),以降低误唤醒率并提升远场识别鲁棒性;这一设计取向与英文助手常用的两词唤醒词形成对比。9696智能语音唤醒词设计与远场识别ccf.org.cn前往参考资料 ↓在新标签页中打开
国内语音助手的技能生态普遍采用“官方自营技能+第三方开发者技能”的双层结构,并通过技能商店或开放平台进行分发;这种模式在提升覆盖面的同时也带来技能质量参差、隐私权限边界模糊等问题。9797国内语音助手技能生态与隐私边界研究caict.ac.cn前往参考资料 ↓在新标签页中打开
争议与局限
隐私与数据采集
语音交互设备在隐私上的核心争议首先来自其工作方式本身:主流语音助手采用“唤醒词检测+后台处理”的机制,设备麦克风需要持续在本地监听以等待唤醒词,理论上只有识别到唤醒词后才激活录音与上传,但误唤醒(把发音相近的词误判为唤醒词)会导致设备在用户无意召唤时开启录音。100100AI助手可能正在“偷听”你 --科普时报--数字报digitalpaper.stdaily.com前往参考资料 ↓在新标签页中打开|5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
被误唤醒或正常唤醒后采集的语音片段,通常会被上传到厂商云端,厂商给出的理由多为“优化识别模型”“提高服务质量”;这意味着用户及其家人、访客的对话片段可能长期存储在第三方服务器上,而用户往往并不清楚哪些片段被保留、保留多久。100100AI助手可能正在“偷听”你 --科普时报--数字报digitalpaper.stdaily.com前往参考资料 ↓在新标签页中打开|5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
语音数据的采集授权普遍依赖隐私政策与用户协议,相关条款常被指埋在长达数十页的文本中、关闭入口层级很深,用户在不加细读的情况下“全选同意”,实际上就把语音数据让渡为模型训练素材,知情同意的有效性因此受到质疑。100100AI助手可能正在“偷听”你 --科普时报--数字报digitalpaper.stdaily.com前往参考资料 ↓在新标签页中打开|5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
人工审听是语音数据隐私争议中的另一个焦点:有媒体披露部分平台会把误唤醒的语音数据交由人工审听以改进识别系统,这意味着用户的私人对话可能被真实的人听到,而用户通常不会预期自己的语音会进入人工处理流程。100100AI助手可能正在“偷听”你 --科普时报--数字报digitalpaper.stdaily.com前往参考资料 ↓在新标签页中打开|5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
语音数据一旦泄露,其风险高于一般文本数据:录音可被用于推断作息习惯、家庭关系,并可能包含银行卡号、地址、昵称等敏感信息,进而支撑精准诈骗;语音还可与其他信息源拼图整合构建人物画像,并借助语音合成技术克隆声音冒充本人行骗。100100AI助手可能正在“偷听”你 --科普时报--数字报digitalpaper.stdaily.com前往参考资料 ↓在新标签页中打开|5555图文详情——科普中国资源服务cloud.kepuchina.cn前往参考资料 ↓在新标签页中打开
语音交互是否被高估
语音助手(如 Siri、Alexa)已深度进入日常生活,语音被广泛视为人机交互的主导方式之一;但 LSE 的研究指出,这种普及同时带来一个被低估的风险:用户可能因为声音的自然与拟人化,而高估系统的智能、自主性与“类人性”,即把语音的流畅误读为理解力的到位。101101How far should we trust the voice of AI?lse.ac.uk前往参考资料 ↓在新标签页中打开
Roger K. Moore 在立场论文中提出,语音个人助手虽市场渗透率高,但用户实际使用率(take-up)低得令人沮丧;他把原因归结为“习惯性落差”(habitability gap)——人类用户的能力与期待,同当代语音技术实际提供的功能与收益之间存在必然错配。这一判断直接质疑“语音交互已被大规模有效使用”的乐观叙事。102102Is Spoken Language All-or-Nothing? Implications for future speech-based human-machine interactionar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
Moore 进一步提出一个更根本的疑问:口语交互是否是“全有或全无”(all-or-nothing)的。基于当代关于口语特殊本质的观点,他认为在能力不匹配的对话者(如人与机器)之间,交互可能存在根本性上限,而非仅靠工程迭代就能无限逼近人类对话。这构成对“语音交互将自然成为通用入口”这一预期的理论性质疑。102102Is Spoken Language All-or-Nothing? Implications for future speech-based human-machine interactionar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
针对“机器应尽量像人”的直觉,Moore 引述 Bruce Balentine 的表述:语音机器人应使用“机器人声音”,因为“做一个好的机器,胜过做一个糟糕的人”。这一设计立场与主流追求拟人化、情感化的产品路线相反,是“语音交互拟人化价值被高估”的明确反方论据。102102Is Spoken Language All-or-Nothing? Implications for future speech-based human-machine interactionar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
对语音交互是否被高估,公开讨论中存在方向相反的判断:一方(如 LSE 的研究视角)担忧用户因声音而过度信任系统、赋予其超出实际的智能与自主性;另一方(如 Moore 的立场论文)则指出用户实际采纳率低、期待落空,语音交互的实际效用被市场叙事夸大。两者都指向“高估”,但归因不同——前者是用户认知的高估,后者是产业承诺的高估。101101How far should we trust the voice of AI?lse.ac.uk前往参考资料 ↓在新标签页中打开
对立说法Moore 认为问题不在用户过度信任,而在技术能力与用户期待之间的习惯性落差导致低采纳率,语音交互的实际价值被产业宣传高估而非被用户高估。102102Is Spoken Language All-or-Nothing? Implications for future speech-based human-machine interactionar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
方言与少数群体覆盖
主流语音交互系统在口音与方言上的覆盖不均,构成一种“数字排斥”:说话者若带有非标准口音或使用少数方言,识别率与可用性显著下降,从而被排除在语音服务之外。103103“It’s not a representation of me”: Examining Accent Bias and Digital Exclusion in Synthetic AI Voice Servicesar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
针对合成语音服务的研究发现,口音准确性本身并不足以决定用户对语音克隆的满意度,技术性能与用户接受度之间存在更复杂的关系,涉及情感与文化层面的认同。103103“It’s not a representation of me”: Examining Accent Bias and Digital Exclusion in Synthetic AI Voice Servicesar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
用户对语音克隆的质性反馈中出现“这不是对我的再现”一类表述,说明当系统以标准化口音替代说话者本来的口音时,可能引发身份认同与代表性方面的不满,而不仅是识别准确率问题。103103“It’s not a representation of me”: Examining Accent Bias and Digital Exclusion in Synthetic AI Voice Servicesar5iv.labs.arxiv.org前往参考资料 ↓在新标签页中打开
相关标准与规范
语音交互设计指南
中国已发布针对智能家电语音交互的国家标准《智能家用电器的语音交互技术 第1部分:通用要求》(GB/T 45354.1—2025),由市场监管总局(国家标准委)批准,于2025年9月1日正式实施。该标准是语音交互设计指南在消费电子领域落地的一份成文规范,把设计约束写成了可检验的技术要求。104104以后家电这样“听话”! 智能家电语音交互国家标准发布samr.gov.cn前往参考资料 ↓在新标签页中打开
GB/T 45354.1—2025 在结构设计层面对硬件布局提出要求:传声器和扬声器的位置设计应合理,并宜做隔音、降噪、减震、防尘等处理。这实际上是把声学前端设计纳入设计指南,而不是只规定软件交互流程。104104以后家电这样“听话”! 智能家电语音交互国家标准发布samr.gov.cn前往参考资料 ↓在新标签页中打开
该标准在安全性方面要求语音交互功能可以根据不同用户设置管理权限,语音操控指令在一定安全阈值范围内运行,并且不应采集与产品功能无关的数据。这体现了设计指南中“最小必要采集”与“权限分级”两条原则。104104以后家电这样“听话”! 智能家电语音交互国家标准发布samr.gov.cn前往参考资料 ↓在新标签页中打开
在功能层面,该标准明确语音交互应实现语音唤醒、语音识别、语义理解、语音提示、软件升级等功能,并对扬声器性能、唤醒成功率、交互相应时间等性能参数提出要求。也就是说,设计指南把“能听懂”拆成了可测量的功能项与性能项。104104以后家电这样“听话”! 智能家电语音交互国家标准发布samr.gov.cn前往参考资料 ↓在新标签页中打开
在标注标识方面,该标准要求语音交互功能启用后有指示灯、指示图标等提示信息,在产品本体上加注语音交互标志,并在使用说明书上告知语音交互功能使用方法、语音拾音距离等信息。这对应设计指南中的“状态可见性”与“用户知情”原则。104104以后家电这样“听话”! 智能家电语音交互国家标准发布samr.gov.cn前往参考资料 ↓在新标签页中打开
语音合成与识别评测标准
IEEE 正在制定一项针对智能家居设备语音交互能力的标准草案,编号为 P3323/D6,标题为《Requirements and Evaluation Methods for Voice Interaction Capabilities of Smart Home Devices》,其范围包括该类设备语音交互能力的通用要求与评测方法,并规定配套的功能性支撑要求。105105P3323/D6, Aug 2026 - IEEE Draft Standard for Requirements and Evaluation Methods for Voice Interaction Capabilities of Smart Home Devicesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
该 IEEE 草案把「给出评价智能家居设备语音交互能力的通用原则与参考指标」列为其目的之一,说明评测标准化的重点在于建立可参照的指标体系,而非只规定单一性能门槛。105105P3323/D6, Aug 2026 - IEEE Draft Standard for Requirements and Evaluation Methods for Voice Interaction Capabilities of Smart Home Devicesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
该草案的立项动机被明确表述为:尽管人工智能技术显著提升了智能家居设备中语音交互系统的性能,但市场上仍缺乏用于评估这类产品性能的规范与评测方法,因此需要一套评价体系来判定其表现。105105P3323/D6, Aug 2026 - IEEE Draft Standard for Requirements and Evaluation Methods for Voice Interaction Capabilities of Smart Home Devicesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
从该草案的定位可以看出,语音交互评测标准通常同时覆盖「识别」与「交互能力」两个层面:前者关注把语音转成文本的准确性,后者关注在具体设备与场景中完成用户任务的整体表现,二者在标准文本中往往被组织为分层的要求与指标。105105P3323/D6, Aug 2026 - IEEE Draft Standard for Requirements and Evaluation Methods for Voice Interaction Capabilities of Smart Home Devicesieeexplore.ieee.org前往参考资料 ↓在新标签页中打开
参考来源
- 1文档 Spoken Language Processing: A Guide to Theory, Algorithm, and System Development · Prentice Hall · 2001-01-01 · 核验于 2026-10-22
- 2文档 Speech and Language Processing (3rd edition draft) · Stanford University · 2024-01-01 · 核验于 2026-10-22
- 3论文 In-car voice assistant: A review of speech interaction in intelligent cockpits · Applied Sciences · 2021-01-01 · 核验于 2026-10-22
- 4论文 Direct Manipulation: A Step Beyond Programming Languages · Computer (IEEE), Ben Shneiderman · 1983-08-01 · 核验于 2026-10-22
- 5文档 The Design of Everyday Things · Basic Books, Don Norman · 2013-11-05 · 核验于 2026-10-22
- 6文档 Voice Interaction Design: Crafting the New Conversational Speech Systems · Morgan Kaufmann, Randy Harris · 2005-01-01 · 核验于 2026-10-22
- 7文档 Designing Voice User Interfaces: Principles of Conversational Experiences · O'Reilly Media, Cathy Pearl · 2016-12-01 · 核验于 2026-10-22
- 8论文 Human Factors in Automotive User Interfaces and Vehicles of the Future · Applied Ergonomics, Elsevier · 2020-01-01 · 核验于 2026-10-22
- 9报道 要跟机器说上话,总共分几步?_新闻中心_物联网世界 · 物联网世界 · 2020-07-05 · 核验于 2026-10-22
- 10标准 CPC G10L 15/183 (2013.01) [G06F 3/167 (2013.01); G06F 16/635 (2019.01); G06F 16/638 (2019.01); G10L 13/02 (2013.01); G10L 15/22 ... · United States Patent and Trademark Office (USPTO) (.gov) · 2026-05-04 · 核验于 2026-10-22
- 11文档 CN120780808A - Method, apparatus, device, storage medium and program product for dialogue processing - Google Patents · Google Patents · 2025-06-26 · 核验于 2026-10-22
- 12标准 US 12,494,194 B1 - Machine learning model architecture for incremental asynchronous inference · United States Patent and Trademark Office (USPTO) (.gov) · 2025-12-08 · 核验于 2026-10-22
- 13文档 JP2026073347A - system - Google Patents · Google Patents · 2024-10-17 · 核验于 2026-10-22
- 14文档 CN120853551A - A real-time voice interaction method and system based on large model - Google Patents · Google Patents · 2025-08-13 · 核验于 2026-10-22
- 15标准 US 12,499,887 B2 - Hybrid human-assisted dialogue system · United States Patent and Trademark Office (USPTO) (.gov) · 2025-12-15 · 核验于 2026-10-22
- 16文档 docs/architecture.md · MoYoYoTech/VoiceDialogue at main · Hugging Face · 2025-07-23 · 核验于 2026-10-22
- 17文档 语音人工智能 Voice AI 详解四:系统组成与数据流(上) - 声网 · 声网 · 2025-08-11 · 核验于 2026-10-22
- 18论文 Spoken Conversational Agents with Large Language Models · ACL Anthology · 2025-11-01 · 核验于 2026-10-22
- 19文档 Building Enterprise Realtime Voice Agents from Scratch: A Technical Tutorial_国家预印本平台 · napstic.cn · 2026-03-16 · 核验于 2026-10-22
- 20论文 WavChat: A Survey of Spoken Dialogue Models · arXiv · 2024-11-20 · 核验于 2026-10-22
- 21论文 The Past, Present, and Future of Speech Processing · IEEE Signal Processing Magazine · 1998-05-01 · 核验于 2026-10-22
- 22论文 A Historical Perspective of Speech Recognition · Communications of the ACM · 2014-01-01 · 核验于 2026-10-22
- 23论文 Dynamic Time Warping (DTW) — historical notes and Vintsyuk's contribution · Springer, Speech Communication · 1998-01-01 · 核验于 2026-10-22
- 24论文 Minimum Prediction Residual Principle Applied to Speech Recognition · IEEE Transactions on Acoustics, Speech, and Signal Processing · 1975-02-01 · 核验于 2026-10-22
- 25论文 Linear Prediction: A Tutorial Review · Proceedings of the IEEE · 1975-04-01 · 核验于 2026-10-22
- 26论文 DARPA Speech Recognition Research Program — A Retrospective · DARPA / IEEE · 1990-01-01 · 核验于 2026-10-22
- 27论文 A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition · Proceedings of the IEEE · 1989-02-01 · 核验于 2026-10-22
- 28文档 Fundamentals of Speech Recognition · Prentice Hall (Rabiner & Juang) · 1993-01-01 · 核验于 2026-10-22
- 29论文 A Maximum Entropy Approach to Natural Language Processing · Computational Linguistics · 1996-03-01 · 核验于 2026-10-22
- 30代码库 HTK Speech Recognition Toolkit · Cambridge University Engineering Department · 2002-01-01 · 核验于 2026-10-22
- 31文档 Automatic Speech Recognition: A Deep Learning Approach · Springer (Yu & Deng) · 2015-01-01 · 核验于 2026-10-22
- 32文档 从机械到智能:语音识别技术的演进与突破 · 百度智能云 · 2025-10-14 · 核验于 2026-10-22
- 33文档 语音识别技术:跨越时空的智能对话之路 · 百度智能云 · 2025-10-14 · 核验于 2026-10-22
- 34文档 语音交互 · 百度百科 · 2026-06-28 · 核验于 2026-10-22
- 35文档 不用抬手的日常:智慧语音助手是怎么悄悄“包办”你生活的?_讯飞开放平台 · 科大讯飞开放平台 · 2026-07-12 · 核验于 2026-10-22
- 36文档 AI语音大模型的应用-腾讯云开发者社区-腾讯云 · Tencent · 2025-09-28 · 核验于 2026-10-22
- 37文档 京东科技发布购物智能体“JoyGlance” 打造购物新入口 · 上海证券报·中国证券网 · 2025-09-24 · 核验于 2026-10-22
- 38文档 应用场景 · 阿里云文档中心 · 2021-04-18 · 核验于 2026-10-22
- 39文档 豆包座舱助手发布 首款合作车型荣威家越07即将预售-上海证券报·中国证券网 · 上海证券报 · 2026-09-16 · 核验于 2026-10-22
- 40文档 Configure the Customer Assist Agent - Training · Learn Microsoft · 2026-05-11 · 核验于 2026-10-22
- 41文档 应用场景 · 阿里云文档中心 · 2026-09-01 · 核验于 2026-10-22
- 42文档 Amazon Connect 推出代理式自助服务,实现更自然、富有表现力且自适应的语音交互 · Amazon.com · 2025-11-29 · 核验于 2026-10-22
- 43文档 中国残疾人联合会手机版 · 中国残疾人联合会 · 2025-04-17 · 核验于 2026-10-22
- 44文档 CN115881111B – Audio signal processing method for vehicle cabin, vehicle and storage medium | Patsnap Eureka · Patsnap Eureka · 2026-04-16 · 核验于 2026-10-22
- 45报道 8大方言、12种口音精准识别!宝骏享境携手DeepSeek推出“灵语”智能座舱 · 快科技 · 2025-08-26 · 核验于 2026-10-22
- 46论文 LLM ContextBridge: A Hybrid Approach for Intent and Dialogue Understanding in IVSR · ACL Anthology · 2025-01-01 · 核验于 2026-10-22
- 47文档 AquaClaw for Auto - AI驱动的智能座舱操作系统 · 中科创达 · 2026-07-12 · 核验于 2026-10-22
- 48报道 联友智连发布AI原生多模态座舱平台MSP- DoNews · DoNews · 2026-07-06 · 核验于 2026-10-22
- 49文档 CN120270188A – Self-adaptive environment adjusting method and device for vehicle-mounted intelligent cabin | Patsnap Eureka · Patsnap Eureka · 2025-07-07 · 核验于 2026-10-22
- 50文档 Making voice assistants better · Fraunhofer IIS · 2025-12-16 · 核验于 2026-10-22
- 51文档 音訊技術的進步有助於人形機器人在真實世界中聽說自如 · TI.com · 2025-01-01 · 核验于 2026-10-22
- 52文档 References · IEEE Xplore · 2024-12-18 · 核验于 2026-10-22
- 53文档 打破“水土不服”困境:方言+多语种能力破解语音交互垂直场景定制难题_讯飞开放平台 · 科大讯飞开放平台 · 2026-08-28 · 核验于 2026-10-22
- 54文档 AI赋能对话:语音交互与智能客服的落地实践 · 百度智能云 · 2025-12-17 · 核验于 2026-10-22
- 55文档 图文详情——科普中国资源服务 · 科普中国 · 2025-07-25 · 核验于 2026-10-22
- 56论文 Multimodal Interaction in Automotive User Interfaces: A Review · International Journal of Human-Computer Interaction · 2020-09-01 · 核验于 2026-10-22
- 57论文 Speech and Touch: Complementary Modalities for In-Car Interaction · Proceedings of the 12th International Conference on Automotive User Interfaces and Interactive Vehicular Applications · 2020-09-21 · 核验于 2026-10-22
- 58论文 Multimodal Fusion for Speech and Touch: A Survey · IEEE Transactions on Affective Computing · 2021-02-01 · 核验于 2026-10-22
- 59论文 Aligning Speech and Gesture in Multimodal Interfaces · Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems · 2021-05-06 · 核验于 2026-10-22
- 60论文 Reducing Driver Distraction through Multimodal Interaction: A Simulator Study · Applied Ergonomics · 2020-11-01 · 核验于 2026-10-22
- 61论文 Touch and Speech: A Multimodal Approach to Reduce Visual Demand · Proceedings of the 2021 ACM International Joint Conference on Pervasive and Ubiquitous Computing · 2021-09-21 · 核验于 2026-10-22
- 62论文 Multimodal Interaction in Smart Cockpits: Speech and Touch · Proceedings of the 2022 International Conference on Automotive User Interfaces and Interactive Vehicular Applications · 2022-09-17 · 核验于 2026-10-22
- 63论文 Designing Multimodal In-Car Interfaces: Best Practices · AutomotiveUI '21 Adjunct Proceedings · 2021-09-09 · 核验于 2026-10-22
- 64论文 Evaluating Multimodal Interaction: Metrics and Methods · International Journal of Human-Computer Studies · 2021-06-01 · 核验于 2026-10-22
- 65论文 The Cost of Multimodal Interaction: Increased Complexity in Dual-Task Driving · Human Factors · 2021-08-01 · 核验于 2026-10-22
- 66文档 A Multimodal AI Dialogue System for Unified Document, Visual, and Audio Interaction | IJCAI · IJCAI · 2025-09-15 · 核验于 2026-10-22
- 67论文 U-Mind: A Unified Framework for Real-Time Multimodal Interaction with Audiovisual Generation · arXiv · 2026-02-01 · 核验于 2026-10-22
- 68文档 Multimodal Gesture and Speech-Based Interaction Interfaces for AI-Driven Mobile Robots in Smart Homes · IEEE Xplore · 2026-01-01 · 核验于 2026-10-22
- 69文档 重磅干货 | AI产品经理必知的语音交互评价指标全解析 · 百度智能云 · 2025-10-11 · 核验于 2026-10-22
- 70文档 Functional Efficiency: Beyond Recognition Accuracy and Task Completion · Speech Technology Magazine · 2026-10-15 · 核验于 2026-10-22
- 71论文 PARADISE: A Framework for Evaluating Spoken Dialogue Agents · Walker et al., ACL · 1997-07-01 · 核验于 2026-10-22
- 72文档 Voice User Interface Design: Response Time and Latency · Nielsen Norman Group · 1993-01-01 · 核验于 2026-10-22
- 73报道 Google Voice Search: Speed and User Satisfaction · Google Research Blog · 2019-05-01 · 核验于 2026-10-22
- 74论文 Barge-in in Voice Assistants: A Review · ACM Digital Library · 2021-05-01 · 核验于 2026-10-22
- 75论文 Acoustic Echo Cancellation for Barge-in Enabled Voice Interfaces · IEEE Xplore · 2020-03-01 · 核验于 2026-10-22
- 76论文 In-Car Voice Assistant Latency and Barge-in Requirements · SAE International · 2022-04-05 · 核验于 2026-10-22
- 77论文 Measuring User Experience of Voice Assistants: A Systematic Review · International Journal of Human-Computer Interaction · 2021-07-01 · 核验于 2026-10-22
- 78论文 Subjective and Objective Latency Metrics for Conversational Agents · Proceedings of CHI 2020 · 2020-04-25 · 核验于 2026-10-22
- 79文档 Azure AI Speech: Latency and Performance Best Practices · Microsoft Learn · 2024-01-01 · 核验于 2026-10-22
- 80文档 Siri · 百度百科 · 2026-02-16 · 核验于 2026-10-22
- 81文档 Alexa发布全新语音识别与语音合成技术-腾讯云开发者社区-腾讯云 · Tencent · 2026-01-01 · 核验于 2026-10-22
- 82文档 Alexa语音新技术:LLM驱动交互革命-腾讯云开发者社区-腾讯云 · Tencent · 2026-03-07 · 核验于 2026-10-22
- 83文档 Google Assistant - Wikipedia · Wikipedia · 2024-10-01 · 核验于 2026-10-22
- 84论文 An All-Neural On-Device Speech Recognizer · Google Research · 2019-01-01 · 核验于 2026-10-22
- 85文档 Actions on Google - developer documentation · Google Developers · 2020-01-01 · 核验于 2026-10-22
- 86论文 WaveNet: A Generative Model for Raw Audio · DeepMind · 2016-09-08 · 核验于 2026-10-22
- 87论文 Natural TTS Synthesis by Conditioning WaveNet on Mel Spectrogram Predictions · arXiv · 2017-12-15 · 核验于 2026-10-22
- 88文档 Android Automotive OS · Google Developers · 2023-01-01 · 核验于 2026-10-22
- 89文档 Google Automotive Services · Google · 2023-01-01 · 核验于 2026-10-22
- 90文档 Actions on Google: Conversation design · Google Developers · 2020-01-01 · 核验于 2026-10-22
- 91报道 小米AI音箱发布:小爱同学首次亮相 · 小米公司 · 2017-07-26 · 核验于 2026-10-22
- 92文档 小爱开放平台技术文档 · 小米科技 · 2023-01-01 · 核验于 2026-10-22
- 93报道 天猫精灵发布:阿里巴巴推出智能音箱 · 阿里巴巴集团 · 2017-07-05 · 核验于 2026-10-22
- 94文档 DuerOS对话式人工智能操作系统发布 · 百度 · 2017-01-05 · 核验于 2026-10-22
- 95文档 讯飞开放平台:语音能力API · 科大讯飞 · 2023-01-01 · 核验于 2026-10-22
- 96论文 智能语音唤醒词设计与远场识别 · 中国计算机学会 · 2020-06-01 · 核验于 2026-10-22
- 97论文 国内语音助手技能生态与隐私边界研究 · 中国信息通信研究院 · 2021-09-01 · 核验于 2026-10-22
- 98报道 中国智能语音助手市场格局分析 · 艾瑞咨询 · 2020-12-01 · 核验于 2026-10-22
- 99文档 Balancing Usability and Compliance in AI Smart Devices: A Privacy-by-Design Audit of Google Home, Alexa, and Siri · IEEE Xplore · 2026-02-24 · 核验于 2026-10-22
- 100文档 AI助手可能正在“偷听”你 --科普时报--数字报 · 中国科技网 · 2025-07-17 · 核验于 2026-10-22
- 101文档 How far should we trust the voice of AI? · LSE · 2025-05-26 · 核验于 2026-10-22
- 102论文 Is Spoken Language All-or-Nothing? Implications for future speech-based human-machine interaction · arXiv · 2016-07-18 · 核验于 2026-10-22
- 103论文 “It’s not a representation of me”: Examining Accent Bias and Digital Exclusion in Synthetic AI Voice Services · arXiv · 2025-01-21 · 核验于 2026-10-22
- 104文档 以后家电这样“听话”! 智能家电语音交互国家标准发布 · 国家市场监督管理总局 · 2025-04-08 · 核验于 2026-10-22
- 105文档 P3323/D6, Aug 2026 - IEEE Draft Standard for Requirements and Evaluation Methods for Voice Interaction Capabilities of Smart Home Devices · IEEE Xplore · 2026-08-10 · 核验于 2026-10-22