首页 > 其他分享 >NLP入门1——李宏毅网课笔记

NLP入门1——李宏毅网课笔记

时间:2023-01-29 22:13:38浏览次数:41  
标签:文字 NLP Learning 输出 李宏毅 网课 语音 输入

近日因为项目需要,开始恶补预习NLP的相关知识。以前也看过两本相关书籍,但是都十分浅显。这次准备详细的学一下并记录。

李宏毅老师的网课是 Deep Learning for Human Language Processing

Lecture 1 - Intro

  • 没有人能够说同一句话两次

网课特色:加强了对语音的识别的讲解

  • 有很多语言虽然有文字但是文字的使用频率非常低

这门课讲六个模型

  • 输入语音,输出文字:语音辨识 (数字语音处理)Automatic Speech Recognition (ASR)其中有个很重要的问题是——模型本身的size要小。
  • 输入语音,输出语音:Speech Separation, Voice Convention
  • 输入语音,输出分类:Speaker Recognition, Keyword Spotting (唤起语音助手)
  • 输入文字,输出文字:translation, chat-bot, question answering, summerization
  • 输入文字,输出语音:语音合成 但是对于一个很短的词汇容易出错,可能有重音的问题。
  • 输入文字,输出分类:
硬train一发

没有硬train一发不能解决的问题,如果有,那就是训练样本不够或者GPU不够。

"Every time I fire a linguist, the performance of the speech recognizer goes up." by Frederick Jelinek.

cocktail party effect 鸡尾酒效应

是指人的一种听力选择能力,在这种情况下,注意力集中在某一个人的谈话之中而忽略背景中其他的对话或噪音。
就是Speech Separation的问题,人可以这样,机器可以吗

one-shot learning
BERT

芝麻街~~

Meta Learning

例:先学其他语言的语音辨识,然后再学一个新的语言的语音辨识。

Learning from Unpaired Data

特别是再voice conversion, image style transfer 上

Knowledge Graph

发现时间好有限55555写不完笔记嗷嗷嗷真的写不完

标签:文字,NLP,Learning,输出,李宏毅,网课,语音,输入
From: https://www.cnblogs.com/pny01/p/17071266.html

相关文章

  • NLP之引言
    目录自然语言发展史第一代统计学习第二代深度学习和词向量第三代大模型预训练加微调绪论自然语言处理的难点自然语言处理任务体系任务层级任务类别研究对象与层次转到了NL......
  • 【如何提高IT运维效率】深度解读京东云基于NLP的运维日志异常检测AIOps落地实践
    作者:京东科技 张宪波、张静、李东江基于NLP技术对运维日志聚类,从日志角度快速发现线上业务问题日志在IT行业中被广泛使用,日志的异常检测对于识别系统的运行状态至关重......
  • NLP文本分类挑战赛(撰写中)
    竞赛信息零基础入门NLP-新闻文本分类竞赛讲解内容来源:https://www.bilibili.com/video/BV19S4y1E7N8/?spm_id_from=333.788&vd_source=ec0dfe3d40081b44c0160eacc0f39d0......
  • python多线程应用-批量下载拉勾网课程
    importconcurrentimportosimportreimporttimefromcollections.abcimportIterablefromCrypto.CipherimportAESfromtool.request_mainimportrequestMain......
  • NLP基础知识学习掌握
    NLP入门总览教材推荐:实用文章NLP领域的重要模型100行代码完成的NLP任务好的课程NLP领域的几个研究方向与公共数据集NLP的基本方法和流程NLP基础知识1......
  • 网课笔记 01
    1.复数的概念1.1引入1484年舒开方程均应有解(统一的思想)1545年卡尔丹 笛卡尔(正名imaginary)Gauss把实和虚放一起统一的形式(不研究共轭)基本代数定理......
  • 新增主题-外网课程
    外网名校的知名课程,好吧目前其实就是6.824(分布式)和6.828(其实是s6.081计组)会尝试去自学这两门课程的内容,可能是:先过翻译讲义,借助翻译插件课程资料->啃生肉会尝试去完成这......
  • 深度神经网络在NLP的应用!
     Datawhale干货 作者:张泽,华东师范大学,Datawhale优秀学习者深度学习正在给自然语言处理带来巨大的变革,例如机器翻译,情感分析,问答系统等落地实践。深度学习对NLP的影响主要......
  • 【李宏毅机器学习】自编码器auto-encoder
    note:VAE的本质结构:重构的过程是希望没噪声的,而KLloss则希望有高斯噪声的,两者是对立的。所以,VAE跟GAN一样,内部其实是包含了一个对抗的过程,只不过它们两者是混合起来,共......
  • NLP入门必知必会(一):Word Vectors
     Datawhale干货 作者:芦冬生,Datawhale优秀学习者,北京理工大学自然语言处理(NLP)是信息时代最重要的技术之一,也是人工智能的重要组成部分。NLP的应用无处不在,因为人们几乎......