首页 > 其他分享 >Task2打卡了解线性模型

Task2打卡了解线性模型

时间:2024-08-31 23:24:47浏览次数:13  
标签:Task2 非线性 函数 复杂 模型 Sigmoid 线性 打卡

在本节提到线性模,我第一反应是我学过的线性代数。曾经学过的简单的数学概念如线性方程被演化成了复杂而强大的工具,用于解决现实世界中的预测问题。这里不仅解释了线性模型的基础原理,还探讨了如何通过添加非线性组件如ReLU函数或Sigmoid函数,将模型提升到一个新的层次。

线性模型的局限性

线性模型它假设输入变量与输出之间存在直接的线性关系。然而,实际数据往往更加复杂,具有周期性、非线性等特性。在实际应用中,线性模型往往无法取得令人满意的预测效果,需要更复杂的模型。

分段线性曲线的引入

为了解决线性模型的局限性,这里引入了分段线性曲线的概念,展示了如何通过叠加多个Hard Sigmoid函数来近似任意复杂的曲线。这让我联想到泰勒公式和无穷级数的有关知识,因为有相似之处,都是利用多个简单函数来拟合复杂的曲线。同时这里提到的ReLU函数和Sigmoid函数作为激活函数的应用,进一步打开了我对非线性建模的理解。这些函数允许模型捕捉更复杂的模式,从而提高了预测能力。特别是,当我们将这些非线性组件嵌入到多层神经网络中时,模型变得极其强大,能够在诸如图像识别等任务上实现惊人的性能。书中列举的AlexNet、VGG、GoogleNet以及ResNet的发展历程,展示了深度学习技术在过去十年间是如何迅速发展的。

深度学习优势

到这里可以总结一下深度学习核心思想分解组合。即将复杂的函数分解成多个简单的函数,并通过组合这些简单的函数来逼近复杂的函数。这种方法可以有效地提高模型的灵活性,可以自动学习数据的特征,无需人工设计特征工程。因此大规模处理数据并提取出有用的信息,应用于各种不同的任务,例如图像识别、语音识别、自然语言处理等

深度学习遇到的挑战

  • 需要大量的训练数据才能取得良好的效果。
  • 可解释性较差,难以理解模型的内部机制。
  • 模型的训练过程需要大量的计算资源。

标签:Task2,非线性,函数,复杂,模型,Sigmoid,线性,打卡
From: https://blog.51cto.com/u_16507376/11884518

相关文章

  • 1.2线性模型(Datawhale X 李宏毅苹果书 AI 夏令营)
    1.2线性模型(DatawhaleX李宏毅苹果书AI夏令营)如图,可以先设一个方程:$$y=b+wx_{1}$$而通过观察可以得到每隔7天就有一个循环,所以可以通过观察得到新的模型:$$y=b+\sum_{j=1}^{7}w_{j}x_{j}$$而采用该模型预估时,由于考虑了7天,所以训练数据上会得到比考虑1天较低的损失。......
  • Datawhale X 李宏毅苹果书 AI夏令营-深度学习入门班-task2-分段线性曲线
    引入上一篇文章中我们了解了机器学习中最基本的模型线性模型(Linearmodels),由于其过于简单(只能调整其斜率w与截距b)无法反映真实数据中多数折线或曲线情况这种限制称为模型偏差(modelbias)。下文介绍:如何构建更复杂,误差更小的函数解决问题。注:此处的bias与线性模型中的b不同。......
  • Datawhale X 李宏毅苹果书 AI夏令营 Task2笔记
    Task2.1:《深度学习详解》-3.3&4&5自适应学习率的概念和方法,包括AdaGrad、RMSProp和Adam等优化器。-**训练网络时的梯度和损失变化**:训练网络时损失可能不再下降,但梯度范数不一定小,梯度可能在山谷壁间“震荡”,多数训练未到临界点就停止。-**不同学习率的影响**:学习率过大或过......
  • 主成分分析PCA找寻数据“灵魂”-线性代数(4)
    前言-PREFACE面向业务目标从浩瀚的数据中挖掘出相关性最高的数据“灵魂”,简化数据处理,去除噪声,提高计算效率,是人工智能领域的主要课题。除了上篇文章提到的矩阵分解(矩阵分解找寻数据“灵魂”-线性代数(3))之外,主成分分析(PCA,principalcomponentsanalysis,也可以翻译为主成因分析)......
  • day14打卡
    最大二叉树classSolution{public:intgetmax(vector&vec){intindex=0;intmax=INT_MIN;for(inti=0;i<vec.size();++i){if(max<vec[i]){max=vec[i];index=i;}}returnindex;}TreeNode*traversal(vector&nums){if(nums.empt......
  • day13打卡
    树左下角值classSolution{public:voidtraversal(TreeNoderoot,intdepth,int&ret,int&maxdepth){if(root->left==nullptr&&root->right==nullptr){if(depth>maxdepth){maxdepth=depth;ret=root->val;}}if(root->......
  • 【卫星姿态控制】线性二次调节器LQR卫星姿态控制【含Matlab源码 4961期】
    ✅博主简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,Matlab项目合作可私信或扫描文章底部QQ二维码。......
  • day12打卡
    平衡二叉树classSolution{public:intgetheight(TreeNode*root){if(root==nullptr){return0;}intleft=getheight(root->left);intright=getheight(root->right);return1+max(left,right);}boolisBalanced(TreeNode*root){if(root==nullptr)......
  • day11打卡
    翻转二叉树classSolution{public:voidtraversal(TreeNoderoot){if(root==nullptr){return;}traversal(root->left);traversal(root->right);TreeNodetmp=root->left;root->left=root->right;root->right=tmp;}TreeNodeinvertTree(T......
  • day9打卡
    用栈实现队列classMyQueue{public:MyQueue(){}voidpush(intx){stIn.push(x);}intpop(){inta;while(!stIn.empty()){a=stIn.top();stIn.pop();stOut.push(a);}a=stOut.top();stOut.pop();while(!stOut.empty()){intb=stOut.top();stOut.pop();......