首页 > 其他分享 >1.17、基于竞争层的竞争学习(matlab)

1.17、基于竞争层的竞争学习(matlab)

时间:2024-07-20 21:57:50浏览次数:17  
标签:1.17 权重 学习 竞争 matlab net 输入 神经元

1、基于竞争层的竞争学习简介及原理

竞争学习是一种无监督学习方法,其中的竞争层神经元之间互相竞争以学习输入模式的表示。竞争学习的一个经典模型是竞争神经网络(Competitive Neural Network,简称CNN),其核心部分是竞争层,包含多个竞争神经元,它们通过竞争机制来学习输入数据的特征。

竞争学习的原理如下:

  1. 模型初始化:竞争层中的每个竞争神经元具有随机初始化的权重向量,用于与输入数据进行比较。
  2. 竞争机制:当接收到输入数据时,竞争神经元之间进行竞争,即各自计算与输入数据的相似度,并选择最能代表输入数据的神经元作为胜者。
  3. 胜者更新:胜者神经元会调整自己的权重向量,使其更好地匹配输入数据,同时关闭其他神经元的更新过程,以保证只有一个胜者。
  4. 学习规则:竞争学习过程中的权重更新规则通常遵循希伯来学习规则(Hebbian Learning Rule),即“同胞竞争,异胞挤压”,即强化与输入模式相符的权重,抑制与输入模式不符的权重。
  5. 学习迭代:重复上述竞争和胜者更新过程,直到模型收敛或达到设定的迭代次数。

竞争学习在模式分类、特征提取等领域有着广泛的应用,能够有效地从输入数据中提取关键特征,并生成对应的内部表示。竞争学习的训练过程是无监督的,只依赖于输入数据的统计特性,具有较强的自组织和特征抽取能力。

2、基于竞争层的竞争学习说明

1)说明

竞争层中的神经元可通过学习来表示输入向量在输入空间中出现的不同区域

2)解决案例

P 是一组随机生成但聚类的测试数据点。竞争网络将用于将这些点分成若干自然类。

3、数据集

数据集生成代码

bounds = [0 1; 0 1];   % 聚类中心在这些范围内
clusters = 8;          % 簇数量
points = 10;           % 每个簇中的点数
std_dev = 0.05;        % 每个聚类的标准差
x = nngenc(bounds,clusters,points,std_dev);

数据集显示代码

% 绘图
figure(1)
plot(x(1,:),x(2,:),'+r');
title('Input Vectors');
xlabel('x(1)');
ylabel('x(2)');

视图效果

4、 COMPETLAYER 接受两个参量,即神经元数量和学习率。

说明

配置网络输入(通常由 TRAIN 自动完成),并绘制初始权重向量以查看其分类尝试过程。

代码

figure(2)
net = competlayer(8,.1);
net = configure(net,x);
w = net.IW{1};
plot(x(1,:),x(2,:),'+r');
hold on;
circles = plot(w(:,1),w(:,2),'ob');

视图效果

5、训练竞争层

在训练竞争层网络时,有一些注意事项需要注意:

  1. 数据预处理:在输入数据集训练之前,需要对数据进行预处理,如归一化处理,以确保不同特征之间的数值范围相同,避免某些特征对竞争过程产生过大影响。

  2. 初始权重选择:竞争层的初始权重设置可能会影响网络的收敛速度和收敛质量,因此需要仔细选择初始权重。常见的初始化方法包括随机初始化和基于数据的初始化方法。

  3. 学习率和邻域函数的选择:学习率和邻域函数的选择对竞争层的训练过程至关重要。学习率的选择会影响权重调整的速度,而邻域函数的选择则会影响胜者神经元周围神经元的权重调整程度。

  4. 迭代次数:需要根据数据集的特点和网络的复杂度来确定训练的迭代次数,以确保网络能够充分学习数据集的特征。

  5. 模型评估:在训练过程中,需要对模型进行评估,监测模型的收敛情况,以及绘制训练过程中的损失函数曲线等,以便及时调整网络参数和模型结构。

  6. 参数调优:在网络训练过程中,可能需要调整学习率、邻域函数的衰减率及初始值等参数,以达到更好的训练效果。

  7. 可视化分析:最后,可以通过可视化分析来观察竞争层的训练效果,例如可视化竞争层的权重矩阵,观察不同输入数据在竞争层的分布情况,以验证模型的有效性。

在训练竞争层网络时,注意以上事项可以帮助提高模型的训练效果,加快网络的收敛速度,并确保竞争层能够充分学习输入数据的特征。

代码

net.trainParam.epochs = 7;
net = train(net,x);

视图效果

 

6、 图上绘制更新后的层权重

代码

w = net.IW{1};
delete(circles);
plot(w(:,1),w(:,2),'ob');

视图效果

7、 使用竞争层作为分类器

1)说明

使用竞争层作为分类器,其中每个神经元都对应于一个不同的类别。将一个输入向量 X1 定义为 [0; 0.2]
输出 Y 指示哪个神经元正在响应,从而指示输入属于哪个类。

代码

x1 = [0; 0.2];
y = net(x1)

y =

     1
     0
     0
     0
     0
     0
     0
     0

8、总结

在MATLAB中实现基于竞争层的竞争学习可以利用自组织特征映射(Self-Organizing Map,简称SOM)算法。SOM是竞争学习的一种形式,其将输入数据在一个高维网格网络中进行竞争学习,从而实现特征提取和数据可视化。

以下是使用MATLAB实现基于竞争层的竞争学习的一般步骤总结:

  1. 准备数据:准备输入数据集,确保数据已经进行归一化处理。
  2. 初始化权重:初始化竞争层(SOM)网络的权重矩阵,每个神经元对应一个权重向量,与输入数据的维度相同。
  3. 训练模型:迭代输入数据集,对每个输入数据计算与各个神经元的距离,并选择最近的神经元作为胜者,根据胜者神经元和邻域函数更新权重矩阵。
  4. 学习率调整:随着模型训练的进行,逐渐减小学习率和邻域函数的大小,以便在后期更加精细地调整权重。
  5. 可视化结果:可视化训练后的竞争层权重矩阵,观察不同输入数据在竞争层上的分布情况。

在MATLAB中,可以利用自带的SOM工具箱或者编写自定义代码的方式实现基于竞争层的竞争学习。通过调整模型参数、学习率和迭代次数,可以对模型进行优化和调整,以获得更好的特征提取效果。此外,可以通过可视化竞争层学习后的特征表示,进一步理解模型学习到的数据结构和特征。

9、源代码

代码

%% 基于竞争层的竞争学习
%竞争层中的神经元可通过学习来表示输入向量在输入空间中出现的不同区域
%P 是一组随机生成但聚类的测试数据点。竞争网络将用于将这些点分成若干自然类。
%% 数据集
bounds = [0 1; 0 1];   % 聚类中心在这些范围内
clusters = 8;          % 簇数量
points = 10;           % 每个簇中的点数
std_dev = 0.05;        % 每个聚类的标准差
x = nngenc(bounds,clusters,points,std_dev);

% 绘图
figure(1)
plot(x(1,:),x(2,:),'+r');
title('Input Vectors');
xlabel('x(1)');
ylabel('x(2)');
%COMPETLAYER 接受两个参量,即神经元数量和学习率。
%配置网络输入(通常由 TRAIN 自动完成),并绘制初始权重向量以查看其分类尝试过程。
figure(2)
net = competlayer(8,.1);
net = configure(net,x);
w = net.IW{1};
plot(x(1,:),x(2,:),'+r');
hold on;
circles = plot(w(:,1),w(:,2),'ob');
%训练竞争层
net.trainParam.epochs = 7;
net = train(net,x);
%图上绘制更新后的层权重
w = net.IW{1};
delete(circles);
plot(w(:,1),w(:,2),'ob');
%使用竞争层作为分类器
%使用竞争层作为分类器,其中每个神经元都对应于一个不同的类别。将一个输入向量 X1 定义为 [0; 0.2]
%输出 Y 指示哪个神经元正在响应,从而指示输入属于哪个类。
x1 = [0; 0.2];
y = net(x1)



工程文件

https://download.csdn.net/download/XU157303764/89498417

标签:1.17,权重,学习,竞争,matlab,net,输入,神经元
From: https://blog.csdn.net/XU157303764/article/details/139788862

相关文章

  • 基于Matlab的数据可视化
    基于Matlab的数据可视化一、二维图形的绘制(一)基本图形函数(1)plot函数(2)fplot函数(3)其他坐标系的二维曲线(二)图形属性设置(1)线型、标记、颜色(2)图形标注(支持LaTex中公式、符号的输入)(3)坐标控制二、三维图形的绘制(一)三维曲线(1)plot3()(2)fplot3()(二)三维曲面(1)平面网格数据的生成......
  • 1.31、基于长短记忆网络(LSTM)的发动机剩余寿命预测(matlab)
    1、基于长短记忆网络(LSTM)的发动机剩余寿命预测的原理及流程基于长短期记忆网络(LSTM)的发动机剩余寿命预测是一种常见的机器学习应用,用于分析和预测发动机或其他设备的剩余可用寿命。下面是LSTM用于发动机剩余寿命预测的原理和流程:数据收集:首先收集发动机的传感器数据,例如......
  • MATLAB图像去雾技术研究
    MATLAB图像去雾技术研究摘要随着科技的进步,图像去雾技术在智能交通、视频监控等领域展现出重要的应用价值。本文基于MATLAB平台,深入研究了图像去雾技术,并提出了一种结合暗原色先验与导向滤波的创新方法。该方法通过暗原色先验估算图像的透射率,并利用导向滤波优化透射率图,最后......
  • MATLAB行为分析研究
    MATLAB行为分析研究摘要随着信息技术和数据分析的快速发展,行为分析在多个领域展现出重要的应用价值。本研究聚焦于MATLAB在行为分析中的应用,深入探讨了其数据处理能力、特征提取技术以及行为识别与分类方法。通过对MATLAB基础知识的介绍,结合行为分析的相关理论,本研究详细阐述......
  • MATLAB的脚本功能
    也许你会发现,在MATLAB的命令行窗口写完代码并且保存后,再打开哎,代码全都不见了而且在命令行窗口一旦按了enter键,上面的行的代码就完全修改不了了可以通过布局→命令历史记录→停靠来找回之前输入的代码,但复制太麻烦了因此要利用脚本功能,即后缀名为.m的文件创建脚本文件①......
  • MATLAB的实时脚本功能
    MATLAB普通脚本(.m)文件,只能输入代码,然后在命令行窗口显示结果但实时脚本,不仅可以输入代码,还可以插入图片和公式,且运行结果也可以放进去实时脚本的后缀名为 .mlx创建实时脚本结果为代码运行结果可以在右侧位置,选择代码运行结果放在哪里右侧输出内嵌输出隐藏代码好用......
  • 【MATLAB源码-第149期】基于MATLAB的2ASK,2FSK,2PSK,2DPSK等相干解调仿真,输出各节点波
    操作环境:MATLAB2022a1、算法描述2ASK(二进制幅移键控)、2FSK(二进制频移键控)、2PSK(二进制相移键控)和2DPSK(二进制差分相移键控)是数字调制技术中的基本调制方式,它们在无线通信、数据传输等领域有着广泛的应用。相干解调是这些调制方式中一个重要的解调技术,它要求接收端的本地振......
  • 【MATLAB源码-第147期】基于matlab的QPSK调制解调在AWGN信道,瑞利信道,莱斯信道理论与实
    操作环境:MATLAB2022a1、算法描述四相位移键控(QPSK,QuadraturePhaseShiftKeying)是一种重要的数字调制技术,它通过改变信号的相位来传输数据。与其他调制技术相比,QPSK在相同的带宽条件下能够传输更多的数据,因而在现代通信系统中得到了广泛应用。本文将详细探讨QPSK在高斯白......
  • Matlab拟合计算热敏电阻的电压与温度的关系。
    条件:嵌入式设备的MCU不具备高精度的数据计算功能。热敏电阻有电压和温度的关系散点关系表。模拟量转换为数字量要具备一定的精度和准确性,比如MCU采集热敏电阻的电压变化。步骤》1.在Matlab上导入散点数据,并用拟合工具箱拟合改散点曲线函数。2.确认需要测量的输入电压范围......
  • 【毫米波】MMSE标准毫米波系统混合波束形成【含Matlab源码 5067期】
    ......