首页 > 其他分享 >1.2线性模型(Datawhale X 李宏毅苹果书 AI 夏令营)

1.2线性模型(Datawhale X 李宏毅苹果书 AI 夏令营)

时间:2024-08-31 22:36:30浏览次数:3  
标签:right 1.2 AI 李宏毅 模型 theta array left

1.2线性模型(Datawhale X 李宏毅苹果书 AI 夏令营)

image-20240831000027379

如图,可以先设一个方程:
$$
y=b+wx_{1}
$$
而通过观察可以得到每隔7天就有一个循环,所以可以通过观察得到新的模型:
$$
y=b+\sum_{j=1}^{7} w_{j}x_{j}
$$
而采用该模型预估时,由于考虑了7天,所以训练数据上会得到比考虑1天较低的损失。

同理我可以考虑14天,28天...当考虑到更多天是没有办法降低损失,则可能达到极限。这些模型都是将输入的x乘一个权重,在加上一个编制得到结果,这样的模型称为线性模型。之后便是线性模型的优化。

1.2.1分段线性曲线

image-20240831212922590

如图所示,红色曲线=常数+一组蓝色线的总和。(线0+线1+线2+线3)

而当蓝色的函数足够多时,把他们加起来就可以变成任何连续曲线。

如图:

image-20240831213135394

而当x与y关系复杂时,则可以写一个带有未知数的函数表示。如图:

image-20240831213556439

Sigmoid函数的表达式:
$$
y=c\frac{1}{1+e^{-(b+wx_{1})}}
$$
image-20240831214010040

我们可以通过调整参数、制造不同的Sigmoid函数。

image-20240831214109369

如图1.12,红色的线可以为0+1+2+3,(1、2、3)为蓝色函数,可以去做Sigmoid再乘$c_{i}$.

可以得到公式:
$$
y=b+\sum_ic_i\sigma(b_i+w_ix_1)
$$
1、2、3代表有个Sigmoid函数:
$$
b_1+w_{11}x_1+w_{12}x_2+w_{13}x_3
$$
采用矩阵跟向量相乘的到:
$$
\left[\begin{array}{c}r_1\r_2\r_3\end{array}\right]=\left[\begin{array}{c}b_1\b_2\b_3\end{array}\right]+\left[\begin{array}{ccc}w_{11}&w_{12}&w_{13}\w_{21}&w_{22}&w_{23}\w_{31}&w_{32}&w_{33}\end{array}\right]\left[\begin{array}{c}x_1\x_2\x_3\end{array}\right]
$$

$$
r=b+Wx
$$

$$
a=\sigma(r)
$$

得到:
$$
y=b+c^{\mathrm{T}}a
$$
可以做一个比较灵活的函数:

image-20240831220734376

接下来计算每一个未知的参数对L的微分,得到向量9,即可以让损失变低的函数
$$
\left.\boldsymbol{g}=\nabla L\left(\boldsymbol{\theta}{0}\right)\\boldsymbol{g}=\left[\begin{array}{c}\frac{\partial L}{\partial\theta{1}}\\frac{\partial L}{\partial\theta_{2}}\\\theta=\theta_{0}\\vdots\end{array}\right.\right]
$$
image-20240831220856427

image-20240831220906930

image-20240831220936216

1.2.2模型变形

image-20240831222231915

image-20240831222258945

image-20240831222324066

image-20240831222335438

1.2.3机器学习框架

image-20240831222401736

标签:right,1.2,AI,李宏毅,模型,theta,array,left
From: https://www.cnblogs.com/bxzl/p/18390877

相关文章

  • Datawhale X 李宏毅苹果书 AI夏令营 Task3
    一、批量化归一    当误差表面崎岖不平,就意味着它比较难以训练,而利用批量化归一将崎岖的误差表面“铲平”则是其中的方法之一。如果是固定学习率,可能很难得到好的结果,因此才需要自适应的学习率。        当输入的特征,每一个维度的值,它的范围差距很大的时候,我......
  • Datawhale X 李宏毅苹果书 AI夏令营-深度学习入门班-task2-分段线性曲线
    引入上一篇文章中我们了解了机器学习中最基本的模型线性模型(Linearmodels),由于其过于简单(只能调整其斜率w与截距b)无法反映真实数据中多数折线或曲线情况这种限制称为模型偏差(modelbias)。下文介绍:如何构建更复杂,误差更小的函数解决问题。注:此处的bias与线性模型中的b不同。......
  • 蔚来发布“NT.Coconut椰子”系统,乐道L60 搭载城市绿洲AI智舱
    8月31日,在乐道智能系统发布会上,蔚来正式推出“NT.Coconut椰子”智能系统,该系统由智能应用、SkyOS天枢操作系统、智能硬件三大部分组成,旨在为用户带来更智能、更便捷的驾驶体验。SkyOS天枢操作系统:整车级别的领先全域操作系统乐道全系车型搭载SkyOS天枢操作系统,全面覆盖车联......
  • AI 自动化副业创收,手把手带你提升副业收益【AI大模型】
    副业创收已经成为行业趋势,在当前经济形势下,许多人面临着行业裁员的不确定性。为了增强个人的抗风险能力,寻求一份副业已经成为一种重要的趋势。这不仅是经济上的补充,更是对自由与独立的一种追求——它应让你自主掌控,不被外界束缚。通过精心打造的副业,你不仅可以灵活安排时间,......
  • Datawhale X 李宏毅苹果书 AI夏令营 Task2笔记
    Task2.1:《深度学习详解》-3.3&4&5自适应学习率的概念和方法,包括AdaGrad、RMSProp和Adam等优化器。-**训练网络时的梯度和损失变化**:训练网络时损失可能不再下降,但梯度范数不一定小,梯度可能在山谷壁间“震荡”,多数训练未到临界点就停止。-**不同学习率的影响**:学习率过大或过......
  • Datawhale X 李宏毅苹果书 AI夏令营-深度学习入门班-task1-初步了解机器学习
    机器学习概念就是使计算机模拟人类的学习过程,通过分析大量数据,完成任务,处理问题。这个过程简单来说就是,使计算机寻找到一个函数,构建起一个模型,通过数据使模型准确化,便于输出目标结果。机器学习类型机器学习根据其所需完成的任务不同,需要寻找不同类型的函数。类型一:回归(Regr......
  • ThinkPHP5 5.0.22/5.1.29 远程代码执行漏洞(5-rce)
    漏洞原理该漏洞存在两种利用方式控制器名未过滤导致rce该漏洞出现的原因在于ThinkPHP5框架底层对控制器名过滤不严,从而让攻击者可以通过url调用到ThinkPHP框架内部的敏感函数,进而导致getshell漏洞核心类Request远程代码执行filter[]为回调函数,get[]或route[]或server[R......
  • AI产品经理薪资揭秘:起薪30k不是梦!零基础转行攻略大公开
    2024年,还有什么新风口?AI、元宇宙、NFT…很多人不知道,其实不管是元宇宙还是NFT,它们本质上就是人工智能领域。AI自身应用领域非常广泛,大批高薪岗位随之涌了出来,包括AI产品经理。AI产品经历具体工作内容是什么?薪资有多香?普通人如何进入AI人工智能行业?需要写代码吗?别急,小......
  • 运维系列&AI系列&Lenovo-G双系统系列(前传-装之前搜索的):ubuntu正确安装显卡驱动的姿势
    ubuntu正确安装显卡驱动的姿势ubuntu正确安装显卡驱动的姿势1.ubuntu16.04默认安装了第三方开源的驱动程序nouveau,安装nvidia显卡驱动首先需要禁用nouveau,不然会碰到冲突的问题,导致无法安装nvidia显卡驱动。2.在英伟达的官网上查找你自己电脑的显卡型号然后下载相应的......
  • AI编码新时代:免费人工智能助手Blackbox AI
    前言:在当今快速发展的科技时代,人工智能已经渗透到我们生活的方方面面,从智能手机的语音助手到智能家居控制系统,再到在线客服和个性化推荐算法,AI智能工具正变得越来越普遍。它们以其高效、智能和用户友好的特性,极大地提升了我们的生活和工作效率。作为一个热衷于尝试各种......