首页 > 其他分享 >Class1 语音识别概述

Class1 语音识别概述

时间:2022-10-10 21:37:14浏览次数:97  
标签:识别 频率 概述 语音 声学 音素 共振 Class1


title: Class1 语音识别综述
excerpt: hands-free
tags: [语音识别, ASR]
categories:


一、语音

  • 语音

    • 语音是语言的物质外壳,即语言的声学表现形式

    • 语音是人类自然的交流工具

    • 语音通信

    • 人机语音交互

    image-20220625175004042

  • 声学(Acoustics)

  • 音频(Audio):采样率、量化位数、通道数(例16KHz, 16bit, Mono)

  • 语音(Speech)编码/格式:参数编码、波形编码、混合编码(例PCM(WAV)、MP3、SLIK…)

  • 时域:波形的振幅、频率

  • 频域:

    image-20220625180931687

    • 傅里叶分析:每个复杂的波形都可以有不同频率的正弦波组成

    • 语谱(spectrum): 述了信号包含的频率成分和它们的幅度

    • 语谱图(spectrogram):语谱随时间的变化

二、语音识别

  1. 什么是语音识别

Automatic Speech Recognition (ASR) 或 Speech to Text (STT)

Aim: 解决机器听清问题,不在意理解

  • 将语音转换成文本

  • 解决机器“听清”问题,不处理“听懂”问题

  • 但是要处理声学和(部分)语言上的混淆

  • 解决“共性”问题:每个人的语音都能 识别出正确的文本

狭义语音识别不包含以下几个部分:说话人(声纹)识别;副语言(paralinguistic aspects)信息的分析与识别(例如发音质量感情韵律);言语理解(褒贬)

img

  1. 语音识别评估

Error Rate = (Substitutions + Deletions+ Insertions) / (Total Words in Reference transcripts)

错误类型:S-替换词错误;D-删除词错误 ;I-插入词错误;R-正确抄本;

注意:Error Rate有可能超过100%;

  • 准确率(Accuracy)= 1 - 错误率

    • 音素错误率 (Phone Error Rate)
    • 词错误率 (Word Error Rate, WER)
    • 字错误率 (Character Error Rate, CER)
    • 句错误率 (Sentence Error Rate, SER)(语音搜索)
  • Efficiency:实时率 (Real-time Factor, RTF)

    例:10s语音5s识别 RTF=0.5

  1. 语音识别系统分类
  • 说话人:特定人、非特定人
  • 语种:单一语种、多语种
  • 词汇量:大、中、小(OOV:Out of Vocabulary)
  • 设备:云侧、端侧
  • 距离:近讲、远讲…

image-20220625183420624

三、语音交互

  • Speech Chain

    level: A to B;B to A; A to A; B to B?

    image-20220625184719022

四、语音生成

Speech Production: 大脑—神经肌肉命令—发音器官运动

  1. 发音过程

由于 声门(Glottis) 的肌肉张力,加上由 肺部 压迫出来的空气,就会造成声门的快速打开与关闭,这一疏一密的空气压力,即为 人声源头 ,再经 声道、口腔、鼻腔 的共振,就会产生不同声音。

  • 声门震动的快慢,决定声音的基本频率(即音高)。

  • 口腔、鼻腔、舌头的位置、嘴型等,决定声音的内容(即音色)。

  • 肺部压缩空气力量的大小,决定音量

  • Source-Filter Model

    发音是由信号源(声门),经过滤波器(口腔、鼻腔、 嘴型等)产生

    image-20220625185943338

    • 浊音(Voiced sound): 声带振动引起,声音波形具有明显周期 性,声带震动的频率称为基音频率或基频(fundamental frequency, F0),人们可以感受到稳定的音高存在。

    • 清音(Unvoiced sound): 声带不震动,波形类似白噪,人们无 法感受到稳定的音高存在

  1. 清音与浊音在波形和语谱上的表现

image-20220625190600847

  • 清音杂论无序,无高峰差异
  • 浊音波形较为规律,由各个小峰组成,共振峰较为明显,短时能量较高。
  1. 基频(F0)与共振峰(F1,F2,F3)

基音频率体现的是声源的信息,而共振峰(formant)体现的是声道的信息。

image-20220625191726623

  • 共振峰指在声音的频谱中能量相对集中的一些区域(语谱峰值)

  • 共振峰是被声道特别放大的频带; 由于不同元音在声道内不同位置产生,不同元音会产生不同种类的放大或共振。

  • 第一和第二个共振峰(F1和F2)对于区分不同元音尤为重要(不同元音F1与F2有不同位置)。

    P.S基音和共振峰是不同的两个量,基音是声带振动产生的;而共振峰是口(鼻)腔耦合共振产生的。同一个基频如果口(鼻)腔的形状不同有不同的共振峰,同样不同的基频相同的口(鼻)腔,产生相同的音。所以它们之间没有直接的关系,但只有(带基音的)激励脉冲通过口(鼻)腔的耦合才能产生语音。

  1. 音素与词素
  • 音素(Phonemes):一种语言中语音的“最小”单元(primitive sounds)(P.S对语音识别进行声学建模是以音素为单位的)

    • 辅音(consonants):由限制或阻挡气流产生,可以是浊音或清音

    • 元音(vowels):声腔开放,气流较为顺畅的通过,通常为浊音,比辅音声音洪亮且持续时间长

      image-20220625193914958

  • 词/语素(morpheme):一种语言中最小的具有语义的结构单元

区别于音素,词素是构成词的要素。是语言中最小单位的音义结合体。词素是比词低一级的单位,词是语言中能够独立运用的最小单位,是指词在句法结构中的地位和作用而言的。语素是指语言中最小的音义结合体。

  1. 协同发音

音素在声学上的实现和上下文强相关 --> 上下文相关模型(Context-dependent model)

image-20220625194451819

  1. 音素抄本(Phonetic Transcription)
  • 一段语音对应的音素列表(带或不带时间边界,时间信息由人工标注或者自动对齐获得)
  • 服务于语音识别声学建模

image-20220625194721964

  1. 音节:元音和辅音结合构成一个音节

Onset:音节头;rime:韵母;nucleus:音节核;coda:音节尾

image-20220625194848404

  1. 语音生成与语音识别
  • 解析出来的发音特征(articulatory features) or 属性(attributes)—效果有限
  • 对语音信号处理层面仍有指导意义
    • 源-滤波器模型(source-filter model)
    • 声道调制中分离出激励信息,如对英文来说激励的频率可以忽略,
      对中文来说则可以利用
  • 对建模单元的选取有指导意义
    • 协同发音(co-articulation)— 上下文相关模型
    • 发音上下文现象类似 — 决策树聚类

五、语音感知

Speech Perception: 人耳—大脑

  • 人耳:“频谱分析仪”,作为语音处理中频率分析的证据(心理物理学)
  • 人耳构成

image-20220625205224448

  • 物理特性 vs. 听觉特性(physical vs. perceptual)

image-20220625205242556

  • 音色:又称音品,由声音波形的谐波频谱和包络决定。
  • 音调:人耳对于频率的感知是非线性的,近似对数函数。
  • 掩蔽效应(Masking):一种心理声学现象,是由人耳对声音频率分辨机制决定的。是指一个较强声音的附近,相对较弱的声音不易被人耳察觉,即被强音所掩蔽。

image-20220625205450284

  • 语音感知与语音识别(语音信号处理与特征提取)

    • 特征工程, Mel Frequency Cepstral Coefficients (MFCC),PLP…
    • 语音编码、增强、分离与麦克风阵列技术…

    MFCC特征提取过程

六、语音识别的难度

image-20220625200233460

七、语音识别的发展历史

  • 早期个别方法: 1950-1960年代

    谱分析,线性预测,统计训练,动态规划(DTW),语言模型

  • 现代语音识别的诞生:1970-1980年代

    监督学习,GMM, HMM, N-gram

  • 平稳发展期:1990-2000年代

    GMM-HMM框架主导

image-20220625200141155

八、现代语音识别

  • 统计模型

    使用声学模型、语言模型和发音词典,通过给定的声学特征向量X,获取最有可能的词序列W*

    image-20220625210221922

  • 端到端系统

    用一个神经网络直接将输入声学特征向量X映射为词序列W*

image-20220625205916170

标签:识别,频率,概述,语音,声学,音素,共振,Class1
From: https://www.cnblogs.com/baixf-xyz/p/16777434.html

相关文章

  • Class5 基于GMM-HMM的语音识别系统
    title:Class5基于GMM-HMM的语音识别系统excerpt:hands-freetags:[语音识别,ASR,HMM,Viterbi,孤立词,单音素,三音素,决策树,状态绑定]categories:[学习,......
  • Class 2 语音信号处理及特征提取
    title:Class2语音信号处理及特征提取excerpt:FBANKMFCCtags:[语音识别,ASR,FBANK,MFCC]categories:[学习,语音识别]index_img:https://picture-store-re......
  • 语音情感识别技术
    情感语料库大致可以通过以下3个方法获的:(1)从我们的现实生活中所采集的真实的自然语料,然后再经过人工挑选获得可以使用的语料;(2)让专业或者非专业人士进行对高兴、愤怒等......
  • 基于MATLAB语音分析处理系统
    语音,作为一种典型的非平稳随机信号,是人类交流信息最自然、最有效、最方便的手段,在人类文明和社会进步中起着重要的作用。随着电子通信业的出现和计算机技术的发展,人们开始可......
  • @linux --firewalld防火墙概述
    firewalld防火墙一、防火墙安全概述在CentOS7系统中集成了多款防火墙管理工具,默认启用的是firewalld(动态防火墙管理器)防火墙管理工具,Firewalld支持CLI(命令行)以及GUI(图形)的两......
  • c++面向对象概述、内存分析、引用、函数
    1.c++内存分区模型c++程序在运行的过程中,内存会被划分为以下四个分区代码区:程序的所有程序的二进制代码,包括注释会被放到此区全局区:存放静态变量、全局变量、常量(字符串常量......
  • 数据库概述
    1、为什么使用数据库持久性并且结构性得将数据保存起来2、数据库与数据库管理系统DB:存储数据得仓库本质是一个文件系统(mysql安装目录下得data目录中)DBMS:操作和管理数据库......
  • Git概述
    Git简介Git是一个分布式版本控制工具,通常用来对软件开发过程中的源代码文件进行管理。Git仓库分为两种:本地仓库:开发人员自己电脑上的Git仓库。远程仓库:远程服务器上的......
  • Spring、springboot、springMVC、JPA、SpringData、springCloud的概述
    https://blog.csdn.net/qq_51308214/article/details/125165747Spring框架是Java平台上的一种开源应用框架, Spring解决了开发者在J2EE开发中遇到的许多常见的问题,提供了......
  • 【Java基础】Collections集合概述和使用、ArrayList集合存储学生并排序及斗地主案例
    目录​​一、Collections概述和使用​​​​二、ArrayList集合存储学生并排序​​​​三、斗地主案例​​一、Collections概述和使用Collection类的作用:是针对集合操作的工......