首页 > 其他分享 >SciTech-Mathmatics-ProbabilitiesAndStatistics-Distribution-is-all-you-need: 概率统计到深度学习

SciTech-Mathmatics-ProbabilitiesAndStatistics-Distribution-is-all-you-need: 概率统计到深度学习

时间:2024-05-11 13:19:05浏览次数:24  
标签:NLP ProbabilitiesAndStatistics Hwan 学习 Tae Jung Mathmatics need 自然语言

Distribution-is-all-you-need

概率统计到深度学习,四大技术路线图谱,都在这里!
https://github.com/graykode/distribution-is-all-you-need
自然语言处理路线图: 数学基础 -> 语言基础 -> 模型和算法

项目作者:Tae-Hwan Jung, Github:graykode,
2019-09-30 13:35, 选自Github

自然语言处理很多时候都是一门综合性的学问,它远远不止机器学习算法。
相比图像或语音,文本的变化更加复杂。
例如从预处理来看,NLP 就要求我们根据对数据的理解定制一种流程。
而且相比图像等更偏向感知的智能,自然语言包含更高一级的智能能力,
不论是承载思想、情感还是推理。

那么要怎样学习NLP自然语言处理,有什么比较好的路线吗?
通常而言,在数学和机器学习的基础上,
我们还需要了解自然语言的规则与现象,
这样才能进一步探讨该怎样处理自然语言。

本文介绍刚刚发布的一个开源项目,
韩国庆熙大学本科生 Tae-Hwan Jung 总结的一套 NLP 的技术路线图。
值得注意的是,Tae-Hwan Jung 此前已经开源了很多优秀的项目,
包括 4.3k+ star 量的 NLP 教程。
项目地址:https://github.com/graykode/nlp-roadmap

Tae-Hwan Jung 表示,本项目面向对 NLP 感兴趣的学生,
该路线图提供了学习 NLP 的思维导图及关键词信息,
它覆盖了从概率/统计到 SOTA NLP 模型的素材。


如上所示为 NLP 的技术基石,最基础的当然还是数学和算法方面的知识,此外语言学和机器学习知识也必不可少。再往上主要是文本挖掘与 NLP,在作者看来,前者更偏向于常规的算法与浅层机器学习模型,后者更偏向于深度学习模型。

本文介绍刚刚发布的一个开源项目,韩国庆熙大学本科生 Tae-Hwan Jung 总结了一套 NLP 的技术路线图。值得注意的是,Tae-Hwan Jung 此前已经开源了很多优秀的项目,包括 4.3k+ star 量的 NLP 教程。

项目地址:https://github.com/graykode/nlp-roadmap

Tae-Hwan Jung 表示,本项目面向对 NLP 感兴趣的学生,该路线图提供了学习 NLP 的思维导图及关键词信息,它覆盖了从概率/统计到 SOTA NLP 模型的素材。

Image

如上所示为 NLP 的技术基石,最基础的当然还是数学和算法方面的知识,此外语言学和机器学习知识也必不可少。再往上主要是文本挖掘与 NLP,在作者看来,前者更偏向于常规的算法与浅层机器学习模型,后者更偏向于深度学习模型。

四大技术线路图

如下从概率和统计到深度学习方法展示了四大技术路线图,它们从基石到高层展示了完整的知识领域。

概率与统计

Image

机器学习

Image

文本挖掘

Image

自然语言处理

Image

注意:

关键词之间的关系可能解释得比较模糊,因为是以语义思维导图的方式表示的。

读者们只需要看方框内的关键词就行,把它们当作必学部分;

在一张图中容纳如此多的关键词和知识点,非常的难,因此,请切记该路线图只是一种思路或者建议;

推荐阅读:

标签:NLP,ProbabilitiesAndStatistics,Hwan,学习,Tae,Jung,Mathmatics,need,自然语言
From: https://www.cnblogs.com/abaelhe/p/18186310

相关文章

  • openGauss 备机处于need-repair_WAL_状态问题
    备机处于needrepair(WAL)状态问题问题现象openGauss备机出现StandbyNeedrepair(WAL)故障。原因分析因网络故障、磁盘满等原因造成主备实例连接断开,主备日志不同步,导致数据库在启动时异常。处理分析通过gs_ctlbuild-D命令对故障节点进行重建,具体的操作方法请参见《工具......
  • The "TypeScript Vue Plugin (Volar)" extension is no longer needed since v2. Plea
    这个报错信息表明你正在使用的是VisualStudioCode或者其他支持Volar的编辑器,而Volar是一个为Vue3应用提供TypeScript支持的工具。这个报错指出自从Volar版本2开始,"TypeScriptVue插件(Volar)"这个扩展就不再需要了。解决方法:如果你在使用的是VisualStudioCode编辑器,并且安装......
  • [BJDCTF 2020]YDSneedGirlfriend
    [BJDCTF2020]YDSneedGirlfriendUAF|所谓UAF漏洞是指程序在运行时通过悬空指针(悬空指针是指仍然指向已被释放内存空间的指针)访问已经被释放的内存.bamuwe@bamuwe:~/YDSneedGirlfriend$lddgirlfriendlinux-vdso.so.1(0x00007ffd09fec000)/home/bamuwe/pw......
  • Randomness Is All You Need: Semantic Traversal of Problem-Solution Spaces with L
    本文是LLM系列文章,针对《RandomnessIsAllYouNeed:SemanticTraversalofProblem-SolutionSpaceswithLargeLanguageModels》的翻译。随机性就是你所需要的:具有大型语言模型的问题解决空间的语义遍历摘要1引言2相关工作3模型4算法5评估6实现7结论摘......
  • SciTech-Mathmatics-Advanced Algebra-LinearAlgebra: 矩阵的相抵、相似与合同
    https://www.math.pku.edu.cn/teachers/baozq/algebra/alg1.htm矩阵的相抵、相似与合同基本概念:相抵,相抵标准形相似,对角化,迹,可对角化矩阵的相似标准形特征值,特征向量,特征多项式,特征子空间正交矩阵,Kn的内积,标准正交基实对称矩阵的正交相似标准形二次型......
  • 【CNN】ConvMixer探究ViT的Patch Embedding: Patches Are All You Need?
    PatchesAreAllYouNeed?探究PatchEmbedding在ViT上的作用,CNN是否可用该操作提升性能?论文链接:https://openreview.net/pdf?id=TVHS5Y4dNvM代码链接:https://github.com/tmp-iclr/convmixer1、摘要 ViT的性能是由于Transformer架构本身的固有优势,还是至少部分归因于......
  • 操作系统综合题之“银行家算法,计算各资源总数和Need还需要数量”
    一、问题:某系统在某时刻的进程和资源状态如下表所示:进程Allocation(已分配资源数)(ABCD)Max(最大需要资源数)(ABCD)Avaliable(可用资源数)(ABCD)P1001102221520P2112......
  • MogDB备机处于standby need-repair(WAL)状态
    MogDB备机处于standbyneed-repair(WAL)状态本文出处:https://www.modb.pro/db/402820问题现象Mogdb主备环境,备机检查发现StandbyNeedrepair(WAL)故障。原因分析因网络故障、磁盘满等原因造成主备实例连接断开,主备日志不同步,导致数据库集群在启动时异常。处理分析通过......
  • vue/react- 报错Unable to authenticate, need: BASIC realm=“Sonatype Nexus Reposi
    问题描述在vue/react(node.js)项目中,node安装依赖install装包时报错:Unabletoauthenticate,need:BASICrealm=“SonatypeNexusRepositoryManager“如果我们报错差不多,就可以完美解决。解决方法这个问题,其实......
  • CF1946F Nobody is needed
    赛时想出来但是没写出来。题意简述定义一个合法序列\(a_1,a_2,\cdotsa_m\)满足以下条件:对于\(1\lei<m\),\(a_{i+1}\)被\(a_i\)整除。初始给定排列\(a\),\(q\)次询问,每次询问给出\(l,r\),求出\(a_{[l,r]}\)的所有可以不连续的子序列中,合法的序列的数目。\(n,q\le......