1.2 人工智能简介
人工智能(Artificial Intelligence),英文缩写为AI(下文都以AI代指人工智能)。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。
人工智能的发展之路充满着曲折起伏,大致可以分为以下6个阶段:
(1)一是起步发展期:1956年—20世纪60年代初。人工智能概念提出后,相继取得了一批令人瞩目的研究成果,如机器定理证明、跳棋程序等,掀起人工智能发展的第一个高潮。
(2)二是反思发展期:20世纪60年代—70年代初。人工智能发展初期的突破性进展大大提升了人们对人工智能的期望,人们开始尝试更具挑战性的任务,并提出了一些不切实际的研发目标。然而,接二连三的失败和预期目标的落空(例如,无法用机器证明两个连续函数之和还是连续函数、机器翻译闹出笑话等),使人工智能的发展走入低谷。
(3)三是应用发展期:20世纪70年代初—80年代中。20世纪70年代出现的专家系统模拟人类专家的知识和经验解决特定领域的问题,实现了人工智能从理论研究走向实际应用、从一般推理策略探讨转向运用专门知识的重大突破。专家系统在医疗、化学、地质等领域取得成功,推动人工智能走入应用发展的新高潮。
(4)四是低迷发展期:20世纪80年代中—90年代中。随着人工智能的应用规模不断扩大,专家系统存在的应用领域狭窄、缺乏常识性知识、知识获取困难、推理方法单一、缺乏分布式功能、难以与现有数据库兼容等问题逐渐暴露出来。
(5)五是稳步发展期:20世纪90年代中—2010年。由于网络技术特别是互联网技术的发展,加速了人工智能的创新研究,促使人工智能技术进一步走向实用化。1997年国际商业机器公司(简称IBM)深蓝超级计算机战胜了国际象棋世界冠军卡斯帕罗夫,2008年IBM提出“智慧地球”的概念。以上都是这一时期的标志性事件。
(6)六是蓬勃发展期:2011年至今。随着大数据、云计算、互联网、物联网等信息技术的发展,泛在感知数据和图形处理器等计算平台推动以深度神经网络为代表的人工智能技术飞速发展,大幅跨越了科学与应用之间的“技术鸿沟”,诸如图像分类、语音识别、知识问答、人机对弈、无人驾驶等人工智能技术实现了从“不能用、不好用”到“可以用”的技术突破,迎来爆发式增长的新高潮。
1.2.1 机器学习简介
提起人工智能,我们不得不说说人工智能的核心“机器学习”,它是使计算机具有智能的根本途径。
机器学习是一门多领域交叉学科,涉及统计学、系统辨识、逼近理论、神经网络、优化理论、计算机科学、脑科学等诸多领域。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构从而不断改善自身的性能。
1. 机器学习的基本思路
机器学习的基本思路主要包含如下3步:
(1)首先把现实生活中的任务抽象成“数学函数”,并且很清楚函数中不同参数的作用。
(2)再通过数学方法对这个“数学函数”进行求解,从而解决现实生活中的任务。
(3)最后评估这个“数学函数”,是否真正的解决了现实生活中的任务以及评估解决的效果如何。
通过以上思路步骤我们可以知道,现实生活中不是所有的任务都可以转换为“数学函数”,那些无法转换的任务人工智能就无法解决,所以机器学习的核心难点就是如何将现实任务转换为机器能够解决问题的“数学函数”。
2. 机器学习的原理
我们以学习认识汉字“一、二、三”为例,想要学会认识汉字,第一步需要看这个汉字是什么样的,我们可以通过书籍查看汉字“一、二、三”,并区分3个汉字之间的不同,既“一条横线的是一、两条横线的是二、三条横线的是三”。第二步不断重复上面的过程,学习认识汉字“一、二、三”,当重复的次数多了,我们大脑中机会记住汉字“一、二、三”,至此我们就学会了一个新技能-认识汉字“一、二、三”。
如果我们把上面的人类学习过程类比机器学习。
(1)通过书籍查看汉字“一、二、三”中的书籍在机器学习中叫做“训练数据集”。
(2)汉字的区别“一条横线的是一、两条横线的是二、三条横线的是三”叫做“特征”。
(3)我们不断重复学习的过程叫做“建模”。
(4)学会汉字后总结出认识汉字的规律叫“模型”。
通过训练数据集,不断识别特征,不断建模,最后形成有效的模型,这个过程就叫“机器学习”。
3. 机器学习三要素
机器学习三要素主要包括:模型、策略、算法。指在指定的假设空间中,机器确定学习策略,通过优化算法去学习到的由输入到输出的映射。
(1)模型:在机器学习中,模型的实质是一个假设空间(hypothesis space),这个假设空间是“输入空间到输出空间所有映射”的一个集合。通俗点说模型就相当于一种函数。
(2)策略:机器学习的目标是获得模型的一个最优解,那如何评判模型的优劣?策略就是评判“最优解模型”(最优参数的模型)的准则或方法。
(3)算法:在机器学习中,算法就是对模型最优解的求解方法(等同于求解最优的函数参数)。
1.2.2 深度学习简介
深度学习是机器学习的一种,其概念源于人工神经网络的研究,我们平时所说的深度学习主要是指深度神经网络。人工神经网络(Artificial Neural Networks,简写为ANNs),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。
通俗点说人工神经网络就是由许多神经元组成的一个拥有输入层、输出层和隐含层的算法模型,其原理为:输入特征向量并通过隐含层变换到输出层,最后在输出层得到分类/回归结果。
图1-3 人工神经网络结构图
人工神经网络按其模型结构大体可以分为前馈型网络(也称为多层感知机网络)和反馈型网络(也称为Hopfield网络)两大类,前者在数学上可以看作是一类大规模的非线性映射系统,后者则是一类大规模的非线性动力学系统。按照学习方式,人工神经网络又可分为有监督学习、非监督和半监督学习三类。按工作方式则可分为确定性和随机性两类。按时间特性还可分为连续型或离散型两类等。
深度神经网络(Deep Neural Networks,简称DNN)则是对于传统人工神经网络的“进化”,一般把隐含层大于等于4层的深度模型结构的人工神经网络称之为“深度神经网络”,这样人工神经网络就有了“深度”,真正意义上有了智能学习的概念。
常见的深度神经网络模型,主要包含如下5个模型:
1. 多层自编码器
假设DNN每一层其输出与输入是相同的,然后训练调整其参数,得到每一层中的权重。自然地,就得到了输入的几种不同表示(特征)。自动编码器就是一种尽可能复现输入信号的多层神经网络。逐层贪婪训练的方法就是针对多层自编码器的优化理论,我们要理解逐层贪婪训练是为什么解决BP算法的梯度弥散和局部最优的。
2. 深度置信网络(Deep Belief Network,DBN)
DBN由多个限制玻尔兹曼机层组成是一个概率生成模型,生成模型是建立一个观察数据和标签之间的联合分布,对P(观测|标签)和 P(标签|观测)都做了评估。一个DBN的连接是通过自顶向下的生成权值来指导确定的,这也是逐层贪婪训练的方法。
3. 卷积神经网络(Convolutional Neural Networks, CNN)
CNN起先是针对图像数据进行建模的深度学习模型,通过权值局部共享来使得大型链接的网络计算可行。CNN包含特征提取层和特征映射层,特征提取的主要是通过卷积和池化,卷积可以看作是不同的滤波器,而池化的目的是解决平移、扭转等图像特征不变性。特征映射一般采用全连接处理和softmax分类。CNN的特殊结构使得其在图像和语言识别应用中有着独特的优越性。
4. 循环神经网络(Recurrent Neural Network,RNN)
RNN也被称为递归神经网络,RNN主要处理序列时间关联的数据。RNN可以看成是DNN的一种变型,在DNN中的隐含层的输出在下一个时间戳上会作用到本层神经元上,即循环递归的概念。RNN可以很好地处理历史序列数据的应用模式,如自然语言处理中。
5. 长短期记忆模型(Long Short-Term Memory,LSTM)
LSTM是RNN的改进,通过隐含层上增加输入、输出和遗忘门,改变了历史数据对当前隐含层的影响方式。使得RNN中较远历史数据梯度弥散的问题得以解决。LSTM是现在语言翻译的重要应用模型。对于sequence to sequence应用场景,LSTM有着先天优势。
总结
如果大家对人工智能(AI)测试有兴趣,欢迎大家加本人微信:wxid_ptea4d8gx4tx12;QQ群:775460627。