首页 > 其他分享 >矩阵求导笔记

矩阵求导笔记

时间:2023-10-18 15:02:05浏览次数:32  
标签:partial 导数 矩阵 笔记 标量 bmatrix 求导 frac

1. 标量对矩阵的求导

考虑一个标量函数 \(f(A)\),其输入是一个 \(m \times n\) 矩阵。函数关于矩阵的导数定义为:

\[\frac{\partial f}{\partial A} = \begin{bmatrix} \frac{\partial f}{\partial A_{11}} & \cdots & \frac{\partial f}{\partial A_{1n}} \\ \vdots & \ddots & \vdots \\ \frac{\partial f}{\partial A_{m1}} & \cdots & \frac{\partial f}{\partial A_{mn}} \end{bmatrix} \]

这是一个 \(m \times n\) 矩阵,其每个元素都是标量 \(f\) 关于 \(A\) 的相应元素的导数。

2. 标量对向量的求导

考虑一个标量函数 \(f(x)\),其输入是一个 \(n \times 1\) 向量。其导数是一个 \(n \times 1\) 向量,称为梯度:

\[ \nabla f(x) = \begin{bmatrix} \frac{\partial f}{\partial x_{1}} \\ \vdots \\ \frac{\partial f}{\partial x_{n}} \end{bmatrix} \]

3. 标量-矩阵函数的导数的转置形式

对于标量-矩阵函数,我们通常采用转置形式,因为它与线性代数中的常用操作相一致。

4. 二次型及其导数

考虑二次型函数:

\[f(x) = x^T A x \]

其导数为:

\[\nabla f(x) = (A + A^T)x \]

如果 \(A\) 是对称的,那么导数简化为:

\[\nabla f(x) = 2Ax \]

标签:partial,导数,矩阵,笔记,标量,bmatrix,求导,frac
From: https://www.cnblogs.com/zzqdeco/p/ju-zhen-qiu-dao-bi-ji.html

相关文章

  • Cef笔记:进程间通信
    原文出处:https://bitbucket.org/chromiumembedded/cef/wiki/GeneralUsage#markdown-header-threadsInter-ProcessCommunication(IPC)SinceCEF3runsinmultipleprocessesitisnecessarytoprovidemechanismsforcommunicatingbetweenthoseprocesses.CefBrowserand......
  • 【学习笔记】高等代数 2023
    本质上是杂题乱写。最大公约数的辗转相除法首先需要知道良序定理。Well-orderingprinciple(良序定理)我们可以获得一个由自然数组成的集合的最小值来看看良序定理在我们熟知的话题上是怎么应用的如何使用WOP证明\(\sqrt5\)是irrationalnumber?设\(a^2=5b^2\),假设......
  • 3D Math for Graphics and Game笔记
    这个机器人的原点在世界坐标系下的(4.5,1.5),而她右肩膀上的那个灯的模型坐标系为(-1,5),怎样计算这个灯的世界坐标呢?开始:获取原点,这个原点为(4.5,1.5)向右移动一个位置,机器人的"左边"是[0.87,0.50],这样得到的位置为(4,5,1.5)+(-1)X[0.87,0.50]=(3.63,1)向上移动5个位......
  • 代码大全读书笔记
    程序员职业素养本部分强调了程序员的职业素养,包括忠诚、负责任、独立思考和团队合作等方面。具有良好的职业素养不仅可以提高自己的职业水平,还可以为整个软件行业树立标杆。抽象能力抽象能力是软件开发中最基本的技能之一。通过将复杂问题转化为简单的抽象构建块,可以提高代......
  • HTML标签详解 HTML5+CSS3+移动web 前端开发入门笔记(四)
    HTML中列表的作用HTML中的列表(List)用于呈现按照一定逻辑关系组织的信息,以便用户更好地理解和识别。列表可以分为有序列表、无序列表和定义列表三种类型。有序列表(OrderedList):用于表示按照一定顺序排列的项目,每个项目都有对应的标记。常见的例子包括步骤、流程等。无序列表(Unordere......
  • HTML标签详解 HTML5+CSS3+移动web 前端开发入门笔记(四)
    HTML中列表的作用HTML中的列表(List)用于呈现按照一定逻辑关系组织的信息,以便用户更好地理解和识别。列表可以分为有序列表、无序列表和定义列表三种类型。有序列表(OrderedList):用于表示按照一定顺序排列的项目,每个项目都有对应的标记。常见的例子包括步骤、流程等。无序列表(Unordere......
  • 阅读笔记
    架构漫谈读后感架构漫谈是由一个架构师王概凯写的一个专题,是以他的实际架构经验为基础,讨论是什么是架构,怎样做好架构,怎么写好程序等一些问题。共分为九个部分:1) 什么是架构?首先把架构的概念讨论明白,然后在对架构进行分析才显得清晰有意义。架构这个词在软件工程很早之前就已......
  • C#学习笔记--数据结构、泛型、委托事件等进阶知识点
    C#进阶简单数据结构类ArrayList元素类型以Object类型存储,支持增删查改的数组容器。因而存在装箱拆箱操作,谨慎使用。//ArrayListArrayListarray=newArrayList();//增=================array.Add("Hello");array.Add(true);array.Add("Tony");//添加单个元素array.Add(......
  • 菜鸡go后端开发学习笔记1
        首先了解项目内容及对应的人员:重要的是产品以及前端。1、了解项目,理清逻辑,有什么不通顺的地方不清楚的地方及时的与产品进行沟通。2、在写请求时,主要是前端发送请求给到后端,后端通过逻辑处理获取数据库里面对应的数据,并返回数据。所以请求字段和前端是有交互......
  • Julia notebook:矩阵乘法
    在本次notebook中,我们将:并行化一个简单的算法学习不同并行策略的performance使用Julia进行实现 问题描述假设所有矩阵,包括A,B和C都初始存储在masterprocess最终的结果会将在C中被覆盖步骤为了实现并行化,我们将遵循以下步骤:确定顺序算法中可以并行化的部分考虑......