首页 > 其他分享 >数值分析第三课——函数逼近

数值分析第三课——函数逼近

时间:2023-11-01 17:06:29浏览次数:43  
标签:内积 函数 逼近 数值 正交 第三课 范数 向量

就是研究函数和曲线可以近似为 另一个函数或数据集,那么怎么来近似尼?逼近算法。两者之间的误差尼?逼近误差。范数、内积、正交函数族、最佳平方逼近是重点

一、用python做数学计算

import numpy as np
from scipy.interpolate import CubicSpline
import matplotlib.pyplot as plt

x = np.array([0, 1, 2, 3, 4, 5])
y = np.array([0, 1, 4, 9, 16, 25])

cs = CubicSpline(x, y)

x_new = 2.5
y_new = cs(x_new)

print(y_new)

二、函数逼近的基本概念

函数逼近是指通过选择适当的函数或曲线来近似(动词)给定的函数或数据集。函数逼近的基本概念包括以下几个方面:

  1. 函数空间:函数空间是指包含各种函数或曲线的集合。常见的函数空间包括多项式函数空间、三角函数空间、指数函数空间等。选择适当的函数空间是函数逼近的第一步。
  2. 逼近误差:逼近误差是指逼近函数与被逼近函数之间的差异。常见的逼近误差度量包括点误差、均方误差、最大误差等。选择合适的误差度量可以评估逼近的质量。
  3. 逼近方法:逼近方法是指通过选择适当的函数或曲线来近似给定函数或数据集的方法。常见的逼近方法包括最佳平方逼近、插值逼近、样条逼近等。每种方法都有其特定的优势和适用范围。
  4. 逼近算法:逼近算法是指实现函数逼近方法的具体计算过程。常见的逼近算法包括最小二乘法、拉格朗日插值法、贝塞尔插值法等。选择合适的逼近算法可以提高逼近的效果和计算的效率。
  5. 逼近应用:函数逼近在各个领域都有广泛的应用。例如,在数据分析中,函数逼近可以用于拟合实验数据或观测数据;在信号处理中,函数逼近可以用于滤波和降噪;在图像处理中,函数逼近可以用于图像重建和去模糊等。

总之,函数逼近是一种重要的数学方法,用于近似给定的函数或数据集。通过选择适当的函数空间、逼近方法和逼近算法,可以实现高质量的函数逼近,并应用于各种实际问题中。

空间就是集合,比如把(1,x,x^2,.......)就是空间

1、范数(norm)

是度量向量空间中向量长度或大小的一种函数。在数学中,范数用来衡量一个向量的大小或长度。常见的范数有:

  1. 1-范数(或曼哈顿范数):L1范数是指向量中各个元素的绝对值之和。
  2. 2-范数(或欧几里得范数):L2范数是指向量中各个元素的平方和再开方。
  3. 无穷范数(或切比雪夫范数):L∞范数是指向量中各个元素的绝对值中最大的那个。

范数在许多领域都有广泛的应用,包括机器学习、图像处理、信号处理等。

范数是一个数学概念,通常用于度量向量的大小或形状。以下是一些范数的例子:

  1. L2范数:也称为欧几里得范数,是向量各元素平方和的平方根。如果有一个向量a = [a1, a2, ..., an],那么该向量的L2范数就是√(a1^2 + a2^2 + ... + an^2)。L2范数可以用来衡量向量的长度或大小。
  2. L1范数:向量各元素的绝对值之和的平方根。如果有一个向量a = [a1, a2, ..., an],那么该向量的L1范数就是∣a1∣ + ∣a2∣ + ... + ∣an∣。L1范数可以用来衡量向量元素的绝对值之和。
  3. 0范数:向量中非零元素的个数。如果有一个向量a = [a1, a2, ..., an],那么该向量的0范数就是∣a1∣ + ∣a2∣ + ... + ∣an∣。0范数可以用来衡量向量中非零元素的个数。

以上是几种常见的范数,它们各有不同的性质和应用场景。在机器学习、数据科学等领域中,范数经常被用来度量数据之间的相似性、距离等。

2、内积与内积空间

内积和内积空间是向量空间中的重要概念。

在向量空间中,我们可以定义任意两个向量的内积(inner product)运算,运算的结果是一个实数或复数。内积运算不是向量空间所必须的,但物理中的向量空间几乎都定义了内积运算。我们把定义了内积运算的空间称为内积空间(inner product space),完备的内积空间也叫希尔伯特空间(Hilbert space)。

在解决最小二乘问题的过程中,我们引入了两个欧几里得向量的“内积”,或称“标准内积”。再由内积我们引申出了“长度”与“正交”的概念,并通过正交分解和勾股定理得到了最小二乘问题的解。实际上,在许多中间结论的证明过程中,我们并不关心一开始定义的内积的具体形式,而是利用了内积本身所具有的性质。

需要注意的是,标准内积本身并不“兼容”一些内积空间,例如连续函数空间。因此,若要让之前得到的结论可以推广到所有向量空间上(这样的推广是有用的,它将可以帮助我们解决“函数逼近”等问题),首先就要在其它向量空间上定义“内积”的概念。

内积和内积空间可以举以下例子进行理解:

假设我们有两个二维向量A和B,分别表示为(A1, A2)和(B1, B2)。这两个向量的内积可以定义为A1×B1 + A2×B2。在这个例子中,内积就是一个实数,它反映了两个向量的“相似性”。

内积空间则可以理解为由所有满足一定条件的向量构成的集合。例如,在上述的二维向量空间中,所有满足A1×B1 + A2×B2 = 0的向量(A1, A2)和(B1, B2)构成了一个内积空间。这个内积空间中的每一个向量都与原点(0,0)正交。


3、正交与正交函数族

正交函数族(Orthogonal family of functions)是指在函数集合中,任意两个函数之间的内积都为零的函数集合。也就是说,如果函数集合中的任意两个函数在某个内积空间中正交,那么这个函数集合被称为正交函数族。

正交函数族具有一些重要的性质。例如,正交函数族的个数与内积空间中的正交基的个数相等。此外,正交函数族中的每个函数都可以表示为其他函数的线性组合,而且这种表示方法是唯一的。

在具体的应用中,正交函数族可以用于求解微分方程、信号处理、统计学等领域。例如,在求解微分方程时,可以使用正交函数族将方程的解展开为一系列正交函数的线性组合,从而简化求解过程。

总之,正交函数族(为了降维)是一个具有重要理论和应用价值的数学概念。

Schmidt正交矩阵在数学和科学计算中有很多用途,包括但不限于:

  1. 最小二乘问题:在求解最小二乘问题时,通过Schmidt正交化,可以将一组线性无关的向量转化为另一组等价的正交向量,从而简化计算过程。
  2. 特征值问题:对于给定的矩阵A,如果存在可逆矩阵P,使得P-1AP为对角矩阵,那么A就称为正交矩阵。这种性质在求解特征值问题时非常有用。
  3. 正交补空间:在处理向量空间中的问题时,Schmidt正交化可以帮助我们建立垂直于原次维空间的新向量,这些新向量与原次维空间构成一个新的正交补空间。
  4. 数据科学和机器学习:在数据科学和机器学习的许多应用中,例如降维、分类和聚类等,正交矩阵可以用于保持数据的原始特征或进行数据的转换。

这只是Schmidt正交矩阵的一部分应用,具体的使用情况可能会根据问题的具体情况而变化。

3.1、schmidt(施密特)正交矩阵

Schmidt正交矩阵在数学和科学计算中有很多用途,包括但不限于:

  1. 最小二乘问题:在求解最小二乘问题时,通过Schmidt正交化,可以将一组线性无关的向量转化为另一组等价的正交向量,从而简化计算过程。
  2. 特征值问题:对于给定的矩阵A,如果存在可逆矩阵P,使得P-1AP为对角矩阵,那么A就称为正交矩阵。这种性质在求解特征值问题时非常有用。
  3. 正交补空间:在处理向量空间中的问题时,Schmidt正交化可以帮助我们建立垂直于原次维空间的新向量,这些新向量与原次维空间构成一个新的正交补空间。
  4. 数据科学和机器学习:在数据科学和机器学习的许多应用中,例如降维、分类和聚类等,正交矩阵可以用于保持数据的原始特征或进行数据的转换。

这只是Schmidt正交矩阵的一部分应用,具体的使用情况可能会根据问题的具体情况而变化。

4、切比雪夫多项式

切比雪夫多项式是一个在数学和工程领域中常用的一类多项式函数。它们是切比雪夫方程的解,由俄罗斯数学家彼得·切比雪夫于19世纪提出。

切比雪夫多项式的定义如下:

T₀(x) = 1 T₁(x) = x Tₙ(x) = 2xTₙ₋₁(x) - Tₙ₋₂(x)

切比雪夫多项式有以下几个重要性质:

  1. 切比雪夫多项式是正交多项式:在区间[-1, 1]上,切比雪夫多项式的积分乘积满足正交性质,即∫Tₙ(x)Tₘ(x)dx = 0,其中n ≠ m。
  2. 切比雪夫多项式是最佳逼近多项式:给定一个函数f(x),切比雪夫多项式可以用来逼近f(x)在区间[-1, 1]上的取值。在最小二乘意义下,切比雪夫多项式逼近能够最小化逼近误差。
  3. 切比雪夫多项式在数值计算中有广泛应用:切比雪夫多项式可以用于数值插值、数值积分、信号处理、图像处理等领域。它们在这些应用中具有较好的数值稳定性和计算效率。

总而言之,切比雪夫多项式是一类重要的多项式函数,具有正交性和最佳逼近性质,广泛应用于数学和工程领域的数值计算问题中。

5、最佳平方逼近

最佳平方逼近是一种数学方法,用于找到一个函数或曲线,以最小化其与给定数据集之间的平方误差。它通过调整函数或曲线的参数来使其在给定数据集上的平方误差最小化。

最佳平方逼近的概念可以通过以下步骤来实现:

  1. 确定逼近函数的形式:根据问题的特点和要求,选择适当的函数形式来逼近给定的数据集。常见的选择包括线性函数、多项式函数、三角函数等。
  2. 定义平方误差:根据给定数据集和逼近函数,定义平方误差作为逼近函数与数据之间的差异度量。平方误差是指逼近函数在给定数据点上的取值与实际数据点的差值的平方和。
  3. 最小化平方误差:通过调整逼近函数的参数,使平方误差最小化。这可以通过最小二乘法等数学方法来实现,其中使用求导等技巧来找到使平方误差最小化的最优参数。

最佳平方逼近在许多领域中有广泛的应用,包括但不限于以下几个方面:

  1. 数据拟合:最佳平方逼近可以用于拟合实验数据或观测数据,以找到最能描述数据趋势的函数或曲线。这在统计学、经济学、物理学和工程学等领域中经常使用。
  2. 信号处理:最佳平方逼近可以用于信号处理中的滤波和降噪。通过逼近信号的频谱或时域表示,可以找到最佳的滤波器或降噪算法,以最小化信号中的噪声或失真。
  3. 图像处理:最佳平方逼近可以用于图像处理中的图像重建、去模糊和图像压缩等问题。通过逼近图像的像素值或频域表示,可以找到最佳的重建算法,以最小化图像的失真或噪声。

总之,最佳平方逼近是一种重要的数学方法,用于寻找最能逼近给定数据集的函数或曲线。它在数据分析、信号处理和图像处理等领域中有广泛的应用。

6、希尔伯特矩阵

希尔伯特矩阵是一个特殊的方阵,其元素由以下公式定义:H(i,j) = 1 / (i + j - 1),其中i和j表示矩阵中的行和列编号。希尔伯特矩阵具有以下特点:

  1. 对称性:希尔伯特矩阵是对称的,即H(i,j) = H(j,i)。
  2. 正定性:希尔伯特矩阵是正定的,即对于任意非零向量x,都有x^T H x > 0,其中x^T表示x的转置。

希尔伯特矩阵在数学和工程领域中有广泛的应用,包括但不限于以下几个方面:

  1. 数值分析:希尔伯特矩阵是数值分析中的一个重要研究对象。由于其特殊的结构,希尔伯特矩阵的性质和行为可以用来研究数值算法的稳定性和收敛性。
  2. 插值和逼近:希尔伯特矩阵可以用于插值和逼近问题。通过构造希尔伯特矩阵和相关向量,可以求解最佳平方逼近问题或多项式插值问题。
  3. 线性代数:希尔伯特矩阵在线性代数中有一些特殊的性质和应用。例如,希尔伯特矩阵的行列式和特征值等可以用来研究矩阵的性质和解析解。
  4. 优化问题:希尔伯特矩阵可以用于优化问题的研究和求解。例如,在最小二乘问题中,希尔伯特矩阵可以用来构造正规方程组,从而求解最优解。

总而言之,希尔伯特矩阵是一个重要的数学概念,在数值分析、插值和逼近、线性代数和优化问题等领域中有广泛的应用。它的特殊性质和结构使其成为研究和解决各种数学和工程问题的有用工具。





















































标签:内积,函数,逼近,数值,正交,第三课,范数,向量
From: https://blog.51cto.com/EddieLai/8129666

相关文章

  • 【数值分析】非线性方程求根
    第7章-非线性方程求根不动点:对于\(f(x)\),若存在\(a\)使得\(f(a)=a\),则称\(x=a\)为\(f(x)\)的不动点。参考链接:§1.2.6不动点7.1.2简单迭代法(Jacobi迭代)\[f(x)=0\iffx=\phi(x)\]利用\(x_{k+1}=\phi(x_k)\)迭代求解不动点,即得方程的根。【例】求\(f(x)=x^3-x-1=0......
  • 【数值分析笔记】
    第3章-函数逼近3.1内积空间3.1.1内积设$f(x),g(x)\inC[a,b],\rho(x)$是\([a,b]\)上的权函数,积分\[(f,g)=\int_a^b\rho(x)f(x)g(x)dx\]称为函数\(f(x)\)与\(g(x)\)在\([a,b]\)上的内积。\(C[a,b]\)表示在区间\([a,b]\)内连续的全体函数组成的集合。满......
  • MySQL主键使用数值型和字符型的区别
    在了解数值型主键和字符型主键之前,需要先谈谈什么是主键、主键的特性、以及字段类型的存储空间,掌握了这些才能更好的理解数值型主键和字符型主键的区别。什么是主键在数据库中,主键是用于唯一标识数据库表中的每一行数据。主键能够确保数据的唯一性,并在表中建立索引,以提高查询效率。......
  • Xilinx VIvado学习-01 数值处理之乘法(有符号)
    Verilog数值处理,在处理减法的时候,需要注意溢出问题。实例:a*b=c 1modulesi_product(2inputsigned[9:0]a,3inputsigned[7:0]b,4outputsigned[17:0]product5);6assignproduct=a*b;7endmodule仿真代码:1modulesi_product_tb;2regsys_......
  • Xilinx VIvado学习-01 数值处理之乘法(无符号)
    Verilog数值处理,在处理减法的时候,需要注意溢出问题。实例:a*b=c 1`timescale1ns/1ps2//////////////////////////////////////////////////////////////////////////////////3//Company:4//Engineer:5//6//CreateDate:2023/10/2323:33:077//......
  • 斐波那契数列&数值传递
    #include<iostream>usingnamespacestd;intp1(inta){ if(a<=2){ return1; }else{ returnp1(a-1)+p1(a-2); }}intmain(){ intn; cin>>n; cout<<p1(n); return0;} #include<iostream>usingnamespacestd;int......
  • B站C语言第三课
    1,字符串的结束标志:’\0'//"abcdef";//'\0'-转义字符-0//0->数字0//‘0’->48//'a''b''c''0''1''2'//EOF-endoffile-文件结束标志 -1return0;2,~按(2进制)位取反1010----0101//原码--------......
  • 金蝶云星空业务单据审核校验根据条件分录数值必录
     一、打开业务单据的审核操作 二、新增规则 设置 三、测试未录入质保期限,审核时 录录入质保期限后,审核 END......
  • Python中数值类型、布尔类型、字符串类型的特征及方法的使用
    数值类型包括int(整形)、float(浮点型)、complex(复数型)1.整型(int)整数就是没有小数部分的数字,Python中的整数包括正整数、0和负整数。为任意大小的整形数,可以表示成十进制八进制、十六进制和二进制。例:>>>0b1101+100 113>>>0x10+218>>>10+212>>>1_2_3_41234 2.......
  • 关于高级定时器 重复计数值寄存器的使用介绍
    来源:https://www.cnblogs.com/liaigu/p/17782198.html在使用高级定时器进行初始化的时候,相较于通用定时器,在初始化的时候会有一个重复计数的配置,如下图:该位主要是对重复计数值寄存器进行配置,如下图:关于该配置的使用说明,具体如下:以定时器中断为例:1、一般默认情况下,将重复计......