简要给大家介绍一下语音怎么变文字的吧。需要说明的是，这篇文章为了易读性而牺牲了严谨性，因此文中的很多表述实际上是不准确的。对于有兴趣深入了解的同学，本文的末尾推荐了几份进阶阅读材料。下面我们开始。
首先，我们知道声音实际上是一种波。常见的mp3等格式都是压缩格式，必须转成非压缩的纯波形文件来处理，比如Windows PCM文件，也就是俗称的wav文件。wav文件里存储的除了一个文件头以外，就是声音波形的一个个点了。下图是一个波形的示例。
在开始语音识别之前，有时需要把首尾端的静音切除，降低对后续步骤造成的干扰。这个静音切除的操作一般称为VAD，需要用到信号处理的一些技术。
要对声音进行分析，需要对声音分帧，也就是把声音切开成一小段一小段，每小段称为一帧。分帧操作一般不是简单的切开，而是使用移动窗函数来实现，这里不详述。帧与帧之间一般是有交叠的，就像下图这样：
图中，每帧的长度为25毫秒，每两帧之间有25-10=15毫秒的交叠。我们称为以帧长25ms、帧移10ms分帧。
分帧后，语音就变成了很多小段。但波形在时域上几乎没有描述能力，因此必须将波形作变换。常见的一种变换方法是提取MFCC特征，根据人耳的生理特性，把每一帧波形变成一个多维向量，可以简单地理解为这个向量包含了这帧语音的内容信息。这个过程叫做声学特征提取。实际应用中，这一步有很多细节，声学特征也不止有MFCC这一种，具体这里不讲。
至此，声音就成了一个12行（假设声学特征是12维）、N列的一个矩阵，称之为观察序列，这里N为总帧数。观察序列如下图所示，图中，每一帧都用一个12维的向量表示，色块的颜色深浅表示向量值的大小。
接下来就要介绍怎样把这个矩阵变成文本了。首先要介绍两个概念：
-
音素：单词的发音由音素构成。对英语，一种常用的音素集是卡内基梅隆大学的一套由39个音素构成的音素集，参见The CMU Pronouncing Dictionary。汉语一般直接用全部声母和韵母作为音素集，另外汉语识别还分有调无调，不详述。
-
状态：这里理解成比音素更细致的语音单位就行啦。通常把一个音素划分成3个状态。
语音识别是怎么工作的呢？实际上一点都不神秘，无非是：
把帧识别成状态（难点）。
把状态组合成音素。
把音素组合成单词。
如下图所示：
图中，每个小竖条代表一帧，若干帧语音对应一个状态，每三个状态组合成一个音素，若干个音素组合成一个单词。也就是说，只要知道每帧语音对应哪个状态了，语音识别的结果也就出来了。
那每帧音素对应哪个状态呢？有个容易想到的办法，看某帧对应哪个状态的概率最大，那这帧就属于哪个状态。比如下面的示意图，这帧在状态S3上的条件概率最大，因此就猜这帧属于状态S3。
那这些用到的概率从哪里读取呢？有个叫“声学模型”的东西，里面存了一大堆参数，通过这些参数，就可以知道帧和状态对应的概率。获取这一大堆参数的方法叫做“训练”，需要使用巨大数量的语音数据，训练的方法比较繁琐，这里不讲。
但这样做有一个问题：每一帧都会得到一个状态号，最后整个语音就会得到一堆乱七八糟的状态号。假设语音有1000帧，每帧对应1个状态，每3个状态组合成一个音素，那么大概会组合成300个音素，但这段语音其实根本没有这么多音素。如果真这么做，得到的状态号可能根本无法组合成音素。实际上，相邻帧的状态应该大多数都是相同的才合理，因为每帧很短。
解决这个问题的常用方法就是使用隐马尔可夫模型（Hidden Markov Model，HMM）。这东西听起来好像很高深的样子，实际上用起来很简单：
第一步，构建一个状态网络。
第二步，从状态网络中寻找与声音最匹配的路径。
这样就把结果限制在预先设定的网络中，避免了刚才说到的问题，当然也带来一个局限，比如你设定的网络里只包含了“今天晴天”和“今天下雨”两个句子的状态路径，那么不管说些什么，识别出的结果必然是这两个句子中的一句。
那如果想识别任意文本呢？把这个网络搭得足够大，包含任意文本的路径就可以了。但这个网络越大，想要达到比较好的识别准确率就越难。所以要根据实际任务的需求，合理选择网络大小和结构。
搭建状态网络，是由单词级网络展开成音素网络，再展开成状态网络。语音识别过程其实就是在状态网络中搜索一条最佳路径，语音对应这条路径的概率最大，这称之为“解码”。路径搜索的算法是一种动态规划剪枝的算法，称之为Viterbi算法，用于寻找全局最优路径。
这里所说的累积概率，由三部分构成，分别是：
-
观察概率：每帧和每个状态对应的概率
-
转移概率：每个状态转移到自身或转移到下个状态的概率
-
语言概率：根据语言统计规律得到的概率
其中，前两种概率从声学模型中获取，最后一种概率从语言模型中获取。语言模型是使用大量的文本训练出来的，可以利用某门语言本身的统计规律来帮助提升识别正确率。语言模型很重要，如果不使用语言模型，当状态网络较大时，识别出的结果基本是一团乱麻。
这样基本上语音识别过程就完成了。
以上的文字只是想让大家容易理解，并不追求严谨。事实上，HMM的内涵绝不是上面所说的“无非是个状态网络”，如果希望深入了解，下面给出了几篇阅读材料：
1. Rabiner L R. A tutorial on hidden Markov models and selected applications in speech recognition. Proceedings of the IEEE, 1989, 77(2): 257-286.
入门必读。深入浅出地介绍了基于HMM的语音识别的原理，不注重公式的细节推导而是着重阐述公式背后的物理意义。
2. Bilmes J A. A gentle tutorial of the EM algorithm and its application to parameter estimation for Gaussian mixture and hidden Markov models. International Computer Science Institute, 1998, 4(510): 126.
详细介绍了用E-M算法训练HMM参数的推导过程，首先讲E-M的基本原理，然后讲解如何应用到GMM的训练，最后讲解如何应用到HMM的训练。
3. Young S, Evermann G, Gales M, et al. The HTK book (v3.4). Cambridge University, 2006.
HTK Book，开源工具包HTK的文档。虽然现在HTK已经不是最流行的了，但仍然强烈推荐按照书里的第二章流程做一遍，你可以搭建出一个简单的数字串识别系统。
4. Graves A. Supervised Sequence Labelling with Recurrent Neural Networks. Springer Berlin Heidelberg, 2012: 15-35.
基于神经网络的语音识别的入门必读。从神经网络的基本结构、BP算法等介绍到 LSTM、CTC。
5. 俞栋, 邓力. 解析深度学习——语音识别实践, 电子工业出版社, 2016.
高质量的中文资料非常稀有，推荐买一本。最早把深度学习技术应用于语音识别就是这本书的作者。
（本文转载自《知乎》：语音识别的技术原理是什么？——张俊博）
- 我瑞了
-
微信扫一扫
一键转发 -
最前沿的电子设计资讯
请关注“电子技术设计微信公众号”
- 称可超越ChatGPT，微软推出新人工智能模型——Kosmos-1 微软推出了 Kosmos-1，据称它是一种多模式大型语言模型 (MLLM)，不仅可以对语言提示做出反应，还可以对视觉线索做出反应，可用于一系列任务，包括图像说明、视觉问题回答等等。
- MWC 2023落下帷幕，盘点国产厂商的那些亮眼表现 MWC 2023(世界移动通信大会2023)于2月27日在巴塞罗那正式向全球移动产业伙伴开启，大会也于3月2日正式落下帷幕。展会持续五天，根据官方数据统计，2023年MWC有2000多家全球厂商参展，中国有以OPPO、荣耀为代表的共计28个国产厂商参展。本次展会，各大厂商纷纷拿出自己的看家本领，可谓是亮点多多，今天就带大家一起看看展会上国产厂商展现的那些亮眼技术吧~
- 维持ChatGPT运行将需要超过3万块Nvidia显卡 据TrendForce的最新预测，人工智能（AI）将成为Nvidia的最大收入来源之一。该研究公司估计，OpenAI的ChatGPT最终将需要超过3万块Nvidia显卡的算力以维持运行。
- Win11端Phone Link添加新支持，iPhone能在PC端接打电话 3月1日，微软宣布，为Win11平台上的Phone Link应用程序添加对iPhone的支持。用户通过该应用程序连接PC和iPhone之后，可以在PC端拨打和接听电话、发送和接收短信、直接在PC上查看iPhone的通知。预览版要求Phone Link应用程序版本1.23012.169.0或更高版本。
- 谷歌达成量子计算机第二里程碑，实现量子计算纠错 2月24日，谷歌CEO Sundar Pichai撰写博客，称公司量子计算又向前迈了一大步。谷歌量子AI团队有史以来首次通过实验证明：可以通过增加量子比特的数量来减少错误。在其最新的研究中，谷歌用49个物理量子比特制作的逻辑量子比特超越了用17个量子比特制作的逻辑量子比特。
- NVIDIA：超级算力，赋能整车中央计算 由全球电子技术领域知名媒体集团AspenCore主办的“中国国际汽车电子高峰论坛”于2023年2月23日正式拉开帷幕。会上，NVIDIA中国区软件解决方案总监卓睿分享了题为“超级算力，赋能整车中央计算”的主题演讲。
- 我国煤炭行业首个OTA无线射频实验室建成并投入使用 据中国煤炭科工集团官网消息，近日，煤炭行业首个“OTA无线射频实验室”在中国煤炭科工集团煤科院建成并投入应用。
- 复旦团队发布国内首个类ChatGPT模型MOSS，与ChatGPT相比 复旦大学自然语言处理实验室邱锡鹏教授团队悄然发布了国内首个类ChatGPT模型MOSS（https://moss.fastnlp.top/），不仅一举刷出数个微博热搜话题，在知乎上更是直接冲上热榜，话题浏览进306万次。知乎匿名网友称已经拿到了内测资格，并实时更新了一波测试结果……
- “IDM929”14nm工艺自研国产GPU芯片即将流片 2月14日消息，据智绘微电子官方消息，该公司自研国产GPU芯片“IDM929”已完成设计，即将进入流片阶段。
- 国内首个类ChatGPT模型MOSS内测，中国版ChatGPT还差什么 2月20日，复旦大学自然语言处理实验室邱锡鹏教授团队发布国内首个类ChatGPT模型MOSS（https://moss.fastnlp.top/），现已发布至公开平台，邀公众参与内测。
- NOR Flash克服可穿戴设备设计挑战 为了持续改进下一代设备中的各种功能，可穿戴设备和耳戴式设备依赖于内存。内存是实现高级设备的关键设计因素...
- 模拟计算重新定义边缘AI性能新境界 传统的数字计算扩展方法，即转向更先进的半导体工艺节点，显然已经达到物理极限(即摩尔定律已经失效)，而不断攀升的制造成本则限制了只有少数几家最富有的公司才能使用该技术。下一代的人工智能处理亟需采用新的方法。
- 拆解报告：X-STATION HDMI+2A1C+SSD三合一氮化镓玲珑坞 充电头网拿到了X-STATION近期新推出的一款多功能Cyberize玲珑坞，是全球首款集充电器、拓展坞和SSD移动硬盘为
- 拆解报告：雅迪180W石墨烯铅酸电池充电器 本次拆解的是雅迪另外一款智能充电器，这款充电器同样为铅酸电池充电器，采用220V交流输入，标称输出电压为60V，输
- PICO 4 VR一体机拆解 PICO 4 VR一体机还采用了双立体声扬声器，通过声场重构技术和头部运动数据计算音效定位，实现空间音频效果。配
- 康佳智能头盔评测 康佳智能头盔以“传统头盔+智能功能”的组合方式，让用户在得到安全保护的同时，享受到更多智能服务。实际用起
- 李想两万字回应：我们如何造车？ 在造车新势力中，理想汽车的李想也是个异类——身为CEO在微博上高强度冲浪，不时与黑粉激情对线；打造产品时与行
- 全球十大动力电池企业盘点之三：三星SDI 三星SDI的电池板块2022年全年营收约970.2亿元人民币，同比增长60.5%，营业利润约69.2亿元人民币，同比+133.2%，营业
- 拆解报告：一加80W超级闪充充电器 一加推出了一款80W输出功率的超级闪充充电器，这款充电器采用白色直板机身设计，配有固定插脚。支持5V2A或5-11V
- 海尔HB-W003真无线耳机评测 外观设计上，海尔HB-W003的充电盒采用新颖的滑盖设计，比常见的产品在视觉效果上更有辨识度。配置功能上，耳机采
- AWEI用维T29 Pro真无线耳机拆解 此次将要拆解的AWEI用维T29 Pro真无线耳机充电盒配备了RGB炫彩呼吸灯，支持开盖即连，支持快速充电；耳机采用了柄
- 两万字详解自动驾驶路径规划的常用算法 自动驾驶自诞生那天起，其志向便已立下，成为熟知城市每一处道路的“老司机”，成为乘客更安全、更舒适、更高效出
- 76份射频和微波资料汇总分享 今天我们分享一下近期整理的一些射频和微波课程网址分享给大家。
- 国产激光雷达雷达的崛起之路 激光雷达会成为智能汽车上的标准配置吗？激光雷达又能给智能汽车带来什么价值？或者说，我们加1、2万块钱配个激光
- 类比发布车规级变压器原边控制器IS801Q，进一步完善锂电池管理系统 致力于提供高品质芯片的国内优秀模拟及数模混合芯片设计商上海类比半导体技术有限公司（下称“类比半导体”或
- 类比半导体发布四款生物电势测量模拟前端芯片 致力于提供高品质芯片的国内优秀模拟及数模混合芯片设计商上海类比半导体技术有限公司（下称“类比半导体”或
- 意法半导体STM32U5系列MCU上新，提高物联网和嵌入式应用性能和能效 Ajax Systems已使用 新STM32U5 MCU开发下一代无线安保和智能家居解决方案；新STM32U5系列MCU是首款获得NIST
- Vishay推出采用先进Power DFN系列DFN3820A封装的额定电流高达4 汽车级200 V、400 V和 600 V器件厚度仅为0.88 mm，采用可润湿侧翼封装，改善热性能并提高效率
- 锐成芯微推出基于BCD工艺的三层光罩eFlash IP 成都锐成芯微科技股份有限公司宣布，公司推出基于BCD工艺平台的LogicFlash Pro® eFlash IP产品，其特点是在
- 瑞萨电子推出包括汽车级在内的10款全新成功产品组合 这些经过全面测试的解决方案展示了瑞萨的相关产品组合的强大实力，包含电动汽车充电、汽车仪表盘控制和其它应
- QORVO UWB技术帮助移远通信推出具有更高定位精度和安全性的新一 Qorvo宣布，移远通信基于 Qorvo DW3300Q 平台最新推出支持超宽带连接（UWB）技术的车规级模组 AU30Q，面向新一代汽
- 比科奇在MWC 23上为全球市场带来高性能低功耗的商用5G小基站和 现场展示了近十家中外客户基于PC802 PHY SoC开发的5G/4G小基站系统
- Microchip推出新一代PoE交换机，为户外应用增加先进的网络和安全功 PDS-204GCO是广受欢迎的PDS-104GO的下一代解决方案，易于安装且环保
- Teledyne e2v发布150万像素的统包式光学模组Optimom，用于快速轻松 Teledyne Technologies 集团旗下公司 Teledyne e2v 宣布推出 Optimom™ 系列最新产品 Optimom 1.5M，这一系列
- CEVA宣布推出其迄今功能最强大、效率最高的DSP架构， 满足5G-Advan 全新CEVA-XC20延续了CEVA在数字信号处理器领域的行业领导地位。这款DSP架构采用新颖的矢量多线程计算技术，与
- 瑞萨电子推出业界首款用于动态软件开发且基于云的系统开发工具Qu Quick-Connect Studio使用户能够在硬件设计之前快速构建原型并开发量产级软件，从而缩短设计周期
