形式陈述
设 开,线段 ,且 在邻域内具有 阶连续导数。令 表示对称 -线性导数,则
沿一元函数 使用 Taylor 定理公理库泰勒定理Taylor's theorem足够光滑函数由有限阶导数多项式加余项表示。,可得 Lagrange 型余项
对某个 成立;也可用积分余项。于是 。
直觉
高阶导数把同一点附近多个方向的相互作用编码成对称多线性形式;二阶时就是 Hessian 所代表的二次型。沿直线 应用一元 Taylor 定理,可把多元展开化为单参数问题,同时保留混合偏导。余项必须按 统一变小,才足以支持任意方向的局部模型。
例子与边界
二阶展开为
其中 是 Hessian。对 ,展开依赖 的幂并自然产生混合项。只知道函数在一点有若干阶导数不足以保证某种统一余项;标准版本需要线段邻域上的正则性。Taylor 多项式是局部近似,不保证无穷 Taylor 级数收敛到函数;光滑非解析函数仍是反例。向量值版本逐分量成立或用多线性导数表述。
对 在原点展开到二阶:
没有 项,因为相应混合偏导在原点为零。对约束方向 ,二阶变化由 决定;Hessian 正定可给严格局部极小,但半正定时高阶项仍可能决定符号。
推论与应用
它以多元导数公理库多元函数导数Derivative in several variables · Jacobian derivativeFréchet 导数在有限维 Euclidean 坐标中的 Jacobian、梯度与方向导数表示。和一元 Taylor 定理为基础,梯度公理库梯度Gradient标量函数微分在内积下对应的向量。给一阶项,Hessian 给二阶曲率。优化公理库凸优化问题Convex optimization problem在凸可行域上最小化凸目标且不等式约束为凸函数的优化模型。中的局部最优判据与Newton 法公理库Newton 非线性方程法Newton's method · Newton-Raphson method · Newton method for nonlinear systems在当前点解一阶线性化方程来修正非线性方程的近似解,并分析其局部二次收敛与失效边界。从这一展开读取线性或二次主项及其余项;Runge–Kutta 方法公理库Runge–Kutta 方法Runge-Kutta method · RK method · Butcher tableau用一步内多个相互依赖的 stage 统一显式与隐式 Runge–Kutta 方法,并以 Butcher tableau、阶条件和稳定函数刻画结构。的阶条件则比较精确流与各 stage 复合后的多元展开。统计 delta method 也使用同一局部结构。流形上则需用坐标或联络处理不同点切空间的比较。
参考资料
- Walter Rudin, Principles of Mathematical Analysis, 3rd ed., McGraw-Hill, 1976,Ch. 9, higher derivatives and Taylor expansion in several variables。
- Michael Spivak, Calculus on Manifolds, W. A. Benjamin, 1965,Ch. 2, higher derivatives and Taylor's theorem。