生活态度

  1. 运动:运动能解决大部分心理的问题
  2. 心态:其实这样没啥,与其畏畏缩缩被人批评,不如放手创造被人批评

LLM

数学

微积分

极限

极限描述的是:一个量越来越接近某个值时,另一个量会越来越接近什么值。

$\lim_{x\to a}f(x)=L$

导数

一个量在某一点变换有多快:$f’(x)=\lim_{h\to 0}\frac{f(x+h)-f(x)}{h}$

积分

积分:把无数个非常微小的量累加起来,得到一个总量。

定积分:计算累计总量 $\int_a^b f(x)dx$

不定积分:寻找原函数 $\int f(x)dx$

寻找原函数 $F(x)$ 使得 $F’(x) = f(x)$

多重积分

多重积分把普通积分从一维区间推广到二维、三维或更高维区间。

  • 一重积分:沿线累加
  • 二重积分:在面上累加
  • 三重积分:在空间中累加

线性代数

线性变换

线性代数,用来研究线性关系。

一开始是为了解决一组一次方程:

$ \begin{cases} 2x+y=5 \\ x-y=1 \end{cases} $

  1. 线性:关系中变量只出现一次方,是直线。
  2. 代数:通过符号,方程和运算规则研究数量与结构。

线性变换:

  1. $T(u+v) = T(u) + T(v)$
  2. $T(cu)=cT(u)$

先合并再变换,和先分别变换再合并,结果一样;输入放大几倍,输出也放大几倍。

为什么这个叫线性变换,因为这个变换会把一条直线变为另外一条直线。

任意直线可以写为:

$x=u+tv$

$T(u+tv) = T(u) + tT(v)$

变换后右边仍然是一条直线的参数方程,可以这样理解:

  1. 一条直线可以写为参数形式 $x(t)=p+tv$
  2. p 是直线上的一个固定点,可以是多维
  3. v 是固定方向,可以是多维
  4. t 是任意实数
  5. 改变 t,就是从 p 出发,沿固定方向 v 前后移动

矩阵

矩阵是为了让一张表来记录一个线性变换。

  1. $T(x,y) = (2x + y, 3y)$
  2. 输入 x,y 输出两个新坐标 $ \begin{cases} X = 2x+y \\ Y = 0x + 3y \end{cases} $
  3. 系数整理出来: $ \begin{bmatrix}2&1\\0&3\end{bmatrix}$
  4. 变换可以简写成: $\begin{bmatrix}X\\Y\end{bmatrix}=\begin{bmatrix}2&1\\0&3\end{bmatrix}\begin{bmatrix}x\\y \end{bmatrix}$

矩阵为什么满足线性变换:

  1. 保持加法:$A(u+v) = Au + Av$
  2. 保持乘法:$A(cu)=c(Au)$

矩阵的形状: $A\in\mathbb R^{m\times n}$

表示一个从 n 维空间到 m 维空间的线性变换:$A:\mathbb R^n\rightarrow\mathbb R^m$

矩阵的列: $A= \begin{bmatrix} |&|&&|\\ a_1&a_2&\cdots&a_n\\ |&|&&| \end{bmatrix}$

$Ax=x_1a_1+x_2a_2+…+x_na_n$

  1. 矩阵的每一列记录了一个基础方向被变到哪里
  2. 输出 Ax 是这些列向量的线性组合
  3. Ax 一定落在矩阵各列所张成的空间中

矩阵的秩(rank(A)):经过这个矩阵变换后,输出还保留多少个独立方向。

通过秩来判断:

  1. 信息是否丢失
  2. 方程是否有解
  3. 解是否唯一
  4. 矩阵是否可逆

行列式:

对于方阵,行列式 det(A) 描述空间体积的缩放比例:

  • $|det(A)|>1$: 体积放大
  • $0<|det(A)|<1$: 体积缩小
  • $det(A)<0$: 方向发生翻转
  • $det(A)=0$: 空间被压扁,丢失维度

特征值与特征向量:

举证通常会改变向量的方向,但是有些特殊的方向经过变换后方向不变,只会改变长度:$Av=\lambda v$

  • $v$ 是特征向量,表示特殊方向
  • $\lambda$ 是特征值,表示该方向被缩放多少

奇异值

奇异值描述的是:一个矩阵在不同方向上,分别会把向量的长度拉伸或压缩多少。