机器学习基础知识学习-微积分之微分、泰勒多项式、导数详解(一)

终于把机器学习要复习的线性代数的几个知识点学习完了,现在开始学习微分、积分、导数、泰勒展开公式、梯度、概率论等。学习过程中会发现微分、积分、导数、泰勒展开公式联系非常紧密。

这次学习微积分找到了单维彰教授的视频,单从技术领域来说,单维彰教授的微积分讲的还是挺好的。


现在开始学习微积分

函数 VS 微分

函数 x = x(t),设x为位置(km)、t为时间(hr)。如果位置和时间变化很大的话,很容易得出结果;如果位置和时间变化非常非常小,无法用常规方法识别,这种情况下该怎么办呢?

对于瞬间变化引入了微分的概念:

x (速度)=

一滴代表瞬间的变化,这里将d作为变量,那么就将瞬间的变化叫做一滴滴的变化。一滴滴x的变化除以一滴滴t的变化,就求出了单位要求下的瞬间变化,求瞬间变化率也就是x的结果的这个过程,就是微分的求解方式。

(平均速度),分析下,若 t = a,则分母不能为0,这个式子不成立。微分上对定义表达式为


面积 VS 积分

已知有 y = f(x),x ∈ [a,b];求x轴上f(x)垂直下来线段的面积,一个直线的面积按照常理推论不好求,但是将直线无限放大,它也是有宽、高的。设宽有一滴滴x长,即dx。则垂直线段一滴滴面积为dx*f(x)。求解垂直线段面积这种形式的解题过程就是(定)积分的表现。

积分符号由summation演变而来:Summation --> S -->

表示一滴滴的x面积

这里延伸一下:表示离线的一大堆东西加在一起;表示连续的一大堆东西加在一起

多项式函数的局部圆形像直线

附近的函数图形以点(a,f(a))为中心的小正方形内所画的函数图形就叫做f(x)在 x = a 的局部图形


f(x)在x=a的局部图形

放大上图中f(x)=x²中,以(1,1)为中心,边长为1的正方形,正方形中的线段有点直。如果再以(1,1)为中心,边长为0.1画正方形。放大该正方形,则线段几乎就像一条直线。

数学家们经过多次论证,证明:多项式函数的局部图形像一条直线

泰勒多项式

由除法原理 F ÷ P = Q ... r 得 F = PQ+r。或许对这个公式不是很理解,下面举一个例子,证明一下。比如,17 ÷ 3 = 5 ... 2 等价于 17 = 3 × 5 + 2 这个公式在处理复杂计算题时会频繁用到,等后面用到F ÷ P = Q ... r 得 F = PQ+r时会有豁然开朗的感觉。

下面看一个3次方得除法化简,已知(+ + x + 1 ) ÷ ( x - 1)

通过下图中得综合除法得(+ + x + 1 ) ÷ ( x - 1) = + 2x + 3(商)... 4(余)


综合除法


由 F ÷ P = Q ... r 推出 F = PQ + r 推出:

(+ + x + 1 ) ÷ ( x - 1) = + 2x + 3 ... 4

(+ + x + 1 ) = ( + 2x + 3 ) ( x - 1) + 4

继续优化( + 2x + 3 ) ÷ ( x - 1 )得

( + 2x + 3 ) ÷ ( x - 1 ) = ( x + 3 )...6

( + 2x + 3 ) = ( x + 3 )( x - 1 ) + 6

(x² + 2x + 3 ) ÷ ( x-1 )综合除法求解


继续对( x + 3 ) ÷ ( x - 1 )进行优化得

( x + 3 ) ÷ ( x - 1 ) = 1 ... 4

( x + 3 ) = ( x - 1) + 4

( x + 3 ) ÷ ( x - 1 )综合除法求解


由以上例题推论可得出

+ + x + 1

= ( + 2x + 3 ) ( x - 1) + 4

= ( ( x + 3 )( x - 1 ) + 6 )( x - 1) + 4

= ( x + 3 )( x - 1 )² + 6( x - 1 ) + 4

= ( ( x - 1 ) + 4 )( x - 1 )² + 6( x - 1 ) + 4

= + 4( x - 1 )² + 6( x - 1 ) + 4

由上得出+ + x + 1为+ 4( x - 1 )² + 6( x - 1 ) + 4降幂排列得式子

常数项为第一次运算得余数,一次项系数为第二次运算得余数,二次项系数为最后一次运算得余数,三次项系数为最后一次运算得出的系数



将得出的式子按升序排列,+ + x + 1 = 4 + 6( x - 1 ) + 4( x - 1 )² + ,升序排列的式子和上图做比照是不是更清晰了呢?

由此可得出: + + x + 1是以1为参考点的泰勒(Taylor)多项式,泰勒形式是4 + 6( x - 1 ) + 4( x - 1 )² +

经过一系列推算求导引出了泰勒多项式,为了加深印象,再看一个例题:

- x² - x + 1是以 -1 为参考点的泰勒多项式 -1 + 7(x+1) - 7(x+1)² +

先分析一下上面的式子:- x² - x + 1是以 -1 为参考点的泰勒多项式先理解为(- x² - x + 1) ÷ ( x + 1 ),还是利用综合除法进行求解


由上图综合除法可知:- x² - x + 1以 -1 为参考点的泰勒多项式等于

-1 + 7( x + 1 ) - 7(x+1)² +

做完这个例子,是不是感觉泰勒多项式很有意思呢!

前面两个例子可以看出,泰勒多项式第一次算法的余数就是函数值,下图可以更直观的展现


泰勒形式的一次系数

已知f(x) = + + x + 1 ,求f(0.98)的百分位估计值

对该题进行分析:

①f(x) =

=
由上面的式子可知,求f(0.98)的百分位估计值,只求到f(x) = 即可,后面的式子可省略。

②f(x) = + + x + 1

= +(x-1) + (x-1)² +

求f(0.98)的百分位估计值,可以令x=1,求出f(1) = = 4

现在已经知道 f(0.98) = +(x-1) = 4 + ( 0.98 - 1 )

= 4 + 0.02

③接下来求一次项的系数

f(x) = +++...+

当x=a时f(x) = f(a)且f(0.98)的百位估计值可求到一次项

则f(x)=f(a)++
f(x)=f(a)+ 等价于 f(x) = × ( x - a ) + f(a)

(注:根据F ÷ P = Q ... r 得 F = PQ+r得出上式)

∵ Q ÷ ( x - a ) = R (商)... (余数)

∴ Q = R ( x - a ) +

∴f(x) = × ( x - a ) + f(a)

= (R ( x - a ) +)( x - a ) + f(a)

= R( x - a )² + ( x - a ) + f(a)

= f(a) + ( x - a ) + R( x - a )²

∵ 求解百分位,所以二次方以后得数可以省略

∴ f(x) = f(a) + ( x - a )关键在这,是以a为参考点得商式

由f(x) = + + x + 1 = ( x² + 2x + 3)( x - 1 ) + 4得

就等于 ( x² + 2x + 3)
前面说到f(0.98) = +(x-1) = 4 + ( 0.98 - 1 )= 4 + 0.02

当x取1时, = x² + 2x + 3 = 6 (这种求法是不是和综合除法求出得一次项系数值一样呢,对,是一样的)

则f(0.98) ≈ 3.88

通过计算机算出得f(0.98)得真实值为3.881592,近似值是不是和真实值很接近呢

本次是求解百位数得近似值,泰勒多项式一次项后边的式子可以省略。实际需求中若求百万位,那后面得式子都要算,根据项目估算式子求到哪一步

泰勒一次项系数即导数

f(x) = 得以a为参考点得泰勒表达式为

+

则称是f以a为参考点得泰勒形式之一次项系数

是由f和a决定得一个数,给它一个符号: =

是由f和a导出来得一个数,称为f在a的导数

多项式函数的切线与导数

多项式函数f(x)以a为参考点的泰勒多项式f(a)+m(x-a)+...在a的切线方程式为 y = m(x-a)+f(a)

f在a的切线斜率称为f在a的导数,记作

f(x)在a的切线方程式为 y = ( x - a ) + f(a)

f(x) = - 3x² + 2x + 1以0为参考点的泰勒多项式为 1 + 2x - 3x² +

在 x = 0的切线方程式为 y = 2x + 1

f在0的导数:= 2

如下图,x=0时,f(a) = 1,切线与曲线相交部分近乎直线


f(x)以1为参考点的泰勒多项式为 1- ( x - 1 ) + ...

在 x = 1的切线方程式为 y = 1 - ( x - 1 ) = 2 - x


f(x)以2为参考点的泰勒多项式 1 + 2( x - 2 ) + ...在 x = 2的切线方程式y = 1 + 2(x - 2) = 2x -3
= 2


导数基本公式

当f(x) = (该式子为单项函数,且n≥2),做q(x)是f(x) ÷ ( x-a )的商,求

÷ ( x - a ) = ( ) ...


f(x)综合除法求解

= +( )( x - a )

= + ( x - a ) + ......

泰勒形式的一次系数中推到过等于对第一次除(x-a)的得到的商进行第二次除(x-a)得到的余数,这个余数也等于当 x = a 时的第一次除(x-a)的得到的商

高中时学过一个公式:

当x=a时,第一次除(x-a)的得到的商:

( )

=(

=

=

推出基本公式:当 f(x) = 时,=

看几个例子:

当f(x) = x²时, = 2 * = 4

当f(x) = 时, = 3 * = 3

当f(x) = 时, = 4 * () =

做了上面三个例题是不是感觉有点别扭,当x得到具体值需要换算成a还要看n是多少?有没有简单便捷的推导式呢?继续往下看

代入 x = a

就是代入 x = a时的数值,新的导出来的的函数称做 f 的一阶导函数

基本公式(导函数形式)

当f(x) = 时,=

=

(1)若f(x) = x², f'(x) = 2, f'(2) = 2 × 2 = 4

(2)若f(x) = , f'(x) = 3 =3 * x² , f'(-1) = 3

(3)若f(x) = , f'(x) = 4 = 4*,f'() =

微分的系数积法则

看第一个性质:[c*f(x)]' = c*f'(x)

f(x) ÷ ( x - a )= q(x) ... f(a) f(x) - f(a) = q(x) * ( x - a )

(c * f(x)) - (c * f(a)) = c * q(x) * ( x - a)则(c * f(x)) ÷ ( x - a ) = c * q(x)...c * f(a)

所以 c * f(x) = c * q(x) ( x - a) + c * f(a)

注:c ≠ 0

一阶导数的值是对商进行处理,代入常数a求值

f'(a) = q(a)

(c * f(x))' = c * q(a) = c * f'(a)

例 当f(x) = 3x²

f'(x) = (3 * x²)'

= 3 * (x²)'

= 3 * (2x)

= 6x

当 f(x) = -

f'(x) = (-1 * )'

= -1 * ()'

=-1 * (4)

f'() = -1 * (4 * ) = -

微分的加法性质

1的导数是0

有两种方法可证明1的导数为0

① 1 =

∵ 等式左边只有常数项,没有一次项,二次项...n次项

= 1,

∴ [1]' = = 0

② f(x) = 1 =

f'(x) = n * = 0 * = 0

微分的性质2 [f(x)+g(x)]' = f'(x) + g'(x)

当 f(x) = x² + 1

f'(x) = [ x² + 1 ]'

=(x²)' + [1]'

= 2x + 0

=2x

当f(x) = + x² + 2x + 1

f'(x) = (+ x² + 2x + 1)'

= ()' + (x²)' + (2x)' + [1]'

= 3x² + 2x + 2*(x)' + 0

= 3x² + 2x + 2* 1 + 0

= 3x² + 2x + 2

看了两个例子,推导一下性质2

若f(x) ÷ ( x - a ) = q(x) ... f(a)

则f(x)-f(a) = q(x)( x - a )

若g(x) ÷ ( x - a ) = p(x) ...g(a)

则g(x)-g(a) = p(x) * (x-a)

(f(x)+g(x))-(f(a)+g(a)) = (q(x)+p(x))( x - a )

则(f(x)+g(x)) ÷ ( x - a ) = (q(x)+p(x))...(f(a)+g(a))

商为q(x) +p(x),(f(x)+g(x))' = q(x) + p(x)

∵ q(x)、p(x)是f(x)+g(x)的商

所以(f(x)+g(x))' = f(x)' + g(x)'


导数的极限记号

微分是求导数的过程,是一个动词、程序

(1)除法程序

设f(x)是一个多项式函数,则 f(x) ÷ ( x - a ) = q(x) ... f(a);f'(a) = q(a)


再温习下一个公式,2个性质:

一个公式:[]' = n*

两个性质:①[c*f(x)]' = c*f'(x) ②[f(x)+g(x)]' = f'(x) + g'(x)

例 f(x) = + 2x - 1

f'(x) = 3x² + 2

则f'(-2) = 3*(-2)² + 2 = 14

做导函数比做多项式除法简单很多

(2)极限记号

f(x) - f(a) = g(x) * ( x - a )

当 x ≠ a 时,同除以 x - a

g(x) =

欲代入 x = a,用= f'(a)

切线与一次估计

(一阶)导数的应用

(1)求 y = f(x)的曲线在x=a处的切线方程式f(x) = + ...


切线方程式 y = f'(a)( x - a ) + f(a)

例 f(x) = + x² + x + 1

f'(x) = 3x² + 2x + 1

当x = 1时,f(1) = 4 f'(x) = 6

y = f'(1)(x-1) + f(1)

= 6(x-1) + 4

则f(x) ≈ 6(x-1) + 4

当 x = 0.97时,f(0.97) ≈ 6(-0.03) + 4 = 3.82

真值是3.823573

(2)一次估计

f(x) ≈ ,求f(0.97),精确到百分位

f(x) ≈ f'(a)(x-a) + f(a)是f在a的一次估算

用f在1的一次估算后求解f(0.97)

扩张的基本公式

先熟悉一个微分乘法公式:[fg]' = f'g + fg',这个公式在后面扩张的基本公式证明时会用到

现在说该部分的重点内容:扩张的基本公式

= 得扩张公式=

例:=

扩张公式是不是很简单呢?它不止简单也很实用,下面证明扩张公式

证明用到了数学归纳法:

当n=0为非正整数时

∴当n=0时检查成立

当n=1时

== - 0 = 1

= 1 *

∴当n=1时检查成立

假设当n=k-1时成立,则考虑n=k的情况

=

=

=+

注:上式用到微分乘法公式[fg]' = f'g + fg'

=1 *+

注:上式中假定n=k-1成立,得出

= 1 *+

=( 1 + k - 1 )

= k

∴ 公式对所有正正数都成立

经过证明推导, = 得扩张公式=,也可以理解为为平移的单项函数

高阶导数与泰勒系数

一阶导数记做,二阶导数记做,三阶导数就是记做,那么四阶导数、五阶导数、六阶导数等等怎么表示呢?四阶导数:,五阶导数:,六阶导数:......

例:

已知:f'''(x) = [ 6x + 2 ]' = 6 + 0 = 6

则:= [f'''(x)]' = [ 6 ]' = 0

高阶导数的一般公式为

下面证明

f(x) =

代入x=a,发现f(a) =

左右微分 f'(x) =

代入x=a,发现f'(a) =

再对f'(x)左右微分 f''(x) =

代入x=a,发现f''(a) = 2 , = f''(a)

再对f''(x)左右微分 f'''(x) =

代入x=a,发现f'''(a) = 6, = f'''(a)

......

概括: = *(a); = = ......

例: f(x) = + x² + x + 1 求f(0.97)

①估算

∵ f(x)的泰勒多项式为4+6(x - 1)+4(x - 1)²+

注:泰勒多项式综合除法求得

∴ f(0.97) ≈ 4 + 6(x - 1) = 3.82

②确算

f(x)以1为参考点的泰勒多项式为

当x=1时 ,f(1) = 4 =

怎么求呢?这次运用求解

∵ f(x) = + x² + x + 1

左右微分f'(x) = 3x² + 2x + 1

= f'(x)

左右微分f''(x) = 6x + 2

= f''(x)

左右微分f'''(x) = 6

= * 6 = 1

当x=1时,= 6, = 4

所以f(x) = 4 + 6(x-1) + 4(x-1)² +

f(0.97) = 4 + 6(0.97-1) + 4(0.97-1)² +

= 4 - 0.18 + 0.0036 - 0.000027

= 3.823573


好了,本篇先到这了,下一篇继续学习交流微积分


#头条创作挑战赛#

展开阅读全文

页面更新:2024-04-02

标签:泰勒   多项式   导数   微分   式子   切线   除法   微积分   系数   公式   基础知识   详解   函数   机器

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top