首页 > 其他分享 >02深度学习笔记

02深度学习笔记

时间:2023-11-19 16:44:49浏览次数:36  
标签:02 函数 训练 标签 矩阵 损失 笔记 深度 二元

1.二元分类

一些基本符号含义:

输入一幅以特征向量x表示的图像,预测对应的输出的y(0 or 1)

单个样本(x,y)

n(x)特征向量,y训练结果

m表示训练集样本总数,{(x(1),y(1)),(x(2),y(2))...,((x(m),y(m))}

M=M(train) 训练集

m(test)测试集样本总数

X矩阵 n(x)*m维的矩阵

(Python)X.sharp 得到矩阵形状的命令输出是n(x),m

输出标签Y =[y(1) y(2)...y(m)] (1*m大小的矩阵)

2.逻辑回归

 3逻辑回归损失函数

 

在深度学习中,逻辑回归损失函数通常被称为二元交叉熵损失函数(binary cross-entropy loss function)。对于二分类问题,其数学表达式如下:

L(y, f(x)) = - (y * log(f(x)) + (1 - y) * log(1 - f(x)))

其中,L表示损失函数,y表示真实标签(0或1),f(x)表示模型的预测值。这个损失函数的目标是最小化预测值与真实标签之间的差异,以便训练模型能够更好地进行二元分类任务。

损失函数反映的是参数成本

4.梯度下降

J(w,b)损失函数是凹函数,无论在哪一点初始化,应该达到同一点或大致相同的点。

以初始点开始,网最陡的方向走,最后收敛到全局最优值或接近全局最优值。

梯度下降法会朝着全局最小值的方向移动,让代价函数J逐渐减少

 5.计算图

 从左往右可以计算J

 

标签:02,函数,训练,标签,矩阵,损失,笔记,深度,二元
From: https://www.cnblogs.com/jiudai/p/17813274.html

相关文章

  • 20231119
    下午早早来到了机房,发现tx334和StarPatrick在英雄联盟。尝试去学一些东西,但是因为他们太吵了学不进去。然后Others来了,他们三个一起开始打CS。更吵了,学不进去,所以来写日记。明天开始就要自己开始学了。有点怅然,自己NOIP考的这么烂还是要一意孤行地学OI。高一这么颓其实也......
  • 香山杯决赛2023.11.19
    香山杯决赛附件如下。https://files.cnblogs.com/files/blogs/798207/xsb2023_final.tar.gz?t=1700382211&download=true2023.11.19广东中山回家了两天,见了高中同学,晚上还去中大玩一下,明天回青岛。孤胆英雄,归途远征。以一敌百,天下无双。ezgame攻击有栈溢出漏洞,直接打游......
  • LY1467 [ 20231113 NOIP 模拟赛 T3 ] Remember11
    题意给定\(n\)个数,求将她们收尾拼接形成\(11\)的倍数的方案数。Sol数数题。众所周知,是\(11\)的倍数意味着将该数错位相减\(mod11=0\)。注意到偶数位数的数与奇数位数的数的贡献是不同的。考虑将她们分开计算,然后合并。设\(f_{ijk}\)表示前\(i\)个奇数,其中有......
  • 2023-2024-1 学号20231315第八周学习总结
    学期:2023-2024-1学号:20231315《计算机基础与程序设计》第八周学习总结作业信息这个作业属于哪个课程2023-2024-1《计算机基础与程序设计》这个作业要求在哪里2023-2024-1《计算机基础与程序设计》这个作业的目标学习计算机科学概论第8章和《C语言程序设计》第6......
  • 大数据应用算法复习笔记
    许我人间一两风,吹散十万八千梦"余幼时即嗜code,家贫,无computer以观,每假借于电脑之家,拆板以刻,计日以还。既加冠,益慕算法之道,又患无cpp,java以游,遂至北理工,观此ppt。当余之读ppt也,负箧曳屣,行无暖气之中教中,穷冬烈风,银杏叶深数尺,面庞皲裂而不知。至舍,四支僵劲不能动,吾自持汤沃灌,以衾......
  • visual studio2022中如何添加另外新下载的框架Net.framework4.8.1 ?
    visualstudio2022中如何添加另外新下载的框架Net.framework4.8.1?作者:张晓栋链接:https://www.zhihu.com/question/577090786/answer/2832018198来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。不要自己去下载,需要通过VisualStudioInstaller安......
  • java反序列化----CC5利用链学习笔记
    java反序列化----CC5利用链学习笔记目录java反序列化----CC5利用链学习笔记环境配置利用链TiedMapEntryBadAttributeValueExpException参考文章环境配置jdk8u(无java版本要求)pom.xml中写入<dependency><groupId>commons-collections</groupId>......
  • NOIP2023 游记
    Day-1最后一场模拟赛,死磕T1喜提\(15\)分,被Shui_Dream教育。正式比赛一定不能这么干啊,去年全国其他选手「喵了个喵」的惨痛经历令人发抖。想了很多种暴毙的情况,告诉自己一定不能犯。感觉后两题也不是很难啊。看来题目难度真不一定按顺序排列的啊。下午gj带我们去上了......
  • 2023-2024-1 20231412 《计算机基础与程序设计》第8周学习总结
    2023-2024-120231321《计算机基础与程序设计》第7周学习总结作业信息这个作业属于哪个课程https://edu.cnblogs.com/campus/besti/2022-2023-1-CFAP这个作业要求在哪里https://edu.cnblogs.com/campus/besti/2023-2024-1-CFAP/homework/13004这个作业的目标《计......
  • 2023-2024-1 20231418 《计算机基础与程序设计》第八周周总结
    2023-2024-120231418《计算机基础与程序设计》第八周周总结 这个作业属于哪个课程2022-2023-1-计算机基础与程序设计这个作业要求在哪里[2022-2023-1计算机基础与程序设计第八周作业]https://www.cnblogs.com/rocedu/p/9577842.html#WEEK03这个作业的目标学习C语言......