线性代数 如何计算矩阵的特征值值和秩有什么关系吗?

最近在做聚类的时候用到了主成分分析PCA技术,里面涉及一些关于矩阵特征值和特征向量的内容,在网上找到一篇对特征向量及其物理意义说明较好的文章,整理下来,分享一下。

矩阵是一个表示二维空间的数组,矩阵可以看做是一个变换。在线性代数中,矩阵可以把一个向量变换到另一个位置,或者说从一个坐标系变换到另一个坐标系。矩阵的“基”,实际就是变换时所用的坐标系。而所谓的相似矩阵(),就是同样的变换,只不过使用了不同的坐标系。线性代数中的相似矩阵实际上就是要使这些相似的矩阵有一个好看的外表,而不改变其变换的功用。

矩阵虽然是二维的,但我们通常把矩阵的大小称为矩阵的维度。例如一个3乘3的矩阵就可以说是一个三维矩阵。

二、直观性说明[2]:

我们先来看点直观性的内容。矩阵的特征方程式是:

矩阵实际可以看作一个变换,方程左边就是把向量x变到另一个位置而已;右边是把向量x作了一个拉伸,拉伸量是lambda。那么它的意义就很明显了,表达了矩阵A的一个特性就是这个矩阵可以把向量x拉长(或缩短)lambda倍,仅此而已。

任意给定一个矩阵A,并不是对所有的向量x它都能拉长(缩短)。凡是能被矩阵A拉长(缩短)的向量就称为矩阵A的特征向量(Eigenvector);拉长(缩短)的量就是这个特征向量对应的特征值(Eigenvalue)。

值得注意的是,我们说的特征向量是一类向量,因为任意一个特征向量随便乘以一个标量结果肯定也满足上述方程,当然这两个向量都可以看成是同一特征向量,并且它们也对应于同一个特征值。

如果特征值是负数,则说明矩阵不但把特征向量拉长(缩短)了,而且使该向量的方向发生了反转(指向了相反的方向)。一个矩阵可能可以拉长(缩短)多个向量,因此它就可能有多个特征值。另外,对于实对称矩阵来说,不同特征值对应的特征向量必定正交。

我们也可以说,一个变换矩阵的所有特征向量组成了这个变换矩阵的一组基。所谓基,可以理解为坐标系的轴。我们平常用到的大多是直角坐标系,在线性代数中可以把这个坐标系扭曲、拉伸、旋转,称为基变换。我们可以按需求去设定基,但是基的轴之间必须是线性无关的,也就是保证坐标系的不同轴不要指向同一个方向或可以被别的轴组合而成,否则的话原来的空间就“撑”不起来了。在主成分分析(PCA)中,我们通过在拉伸最大的方向设置基,忽略一些小的量,可以极大的压缩数据而减小失真。

变换矩阵的所有特征向量作为空间的基之所以重要,是因为在这些方向上变换矩阵可以拉伸向量而不必扭曲和选择它,使得计算大为简单。因此特征值固然重要,但我们的终极目标却是特征向量。

三、几个重要的抽象概念 1、核

所有经过变换矩阵后变成了零向量的向量组成的集合,通常用Ker(A)来表示。

假设你是一个向量,有一个矩阵要来变换你,如果你不幸落入了这个矩阵的核里面,那么很遗憾转换后你就变成了虚无的零。特别指出的是,核实“变换”(Transform)中的概念,矩阵变换中有一个相似的概念叫“零空间”。有的材料在谈到变换的时候使用T来表示,联系到矩阵时才用A,本文把矩阵直接看作“变换”。核所在的空间定义为V空间,也就是全部向量原来的空间。

某个空间中所有向量经过变换矩阵后形成的向量的集合,通常用R(A)来表示。

假设你是一个向量,有一个矩阵要来变换你,这个矩阵的值域表示了你将来所有可能的位置。值域的维度也叫做秩(Rank)。值域所在的空间定义为W空间。

向量与建立在其上的加、乘运算构成了空间。向量可以(也只能在)空间中变换。使用坐标系(基)在空间中描述向量。

不管是核还是值域,它们都是封闭的。意思是说,如果你和你的朋友困在核里面,你们不管是相加还是相乘都还会在核里面,跑不出去,这就构成了一个子空间。值域同理。

数学家证明了,V(核所在的空间定义为V空间)的维度一定等于它的任意一个变换矩阵的核的维度加上值域的维度。

严格的证明可以参考相关资料,这里说一个直观的证明方法:

V的维度也就是V的基的数目。这些基分为两部分,一部分在核中,一部分是值域中非零象的原象(肯定可以分,因为核和值域都是独立的子空间)。如果把V中的任意向量用基的形式写出来,那么这个向量必然也是一部分在核中,另一部分在值域中非零象的原象里。现在对这个向量作变换,核的那部分当然为零了,另一部分的维度刚好等于值域的维度。

四、变换矩阵行空间和零空间的关系

根据矩阵的性质,变换矩阵的行数等于V的维度,变换矩阵的秩等于值域R的维度,所以可以得出:

因为A的秩又是A行空间的维度(注意在非满矩阵中这个数肯定小于行数),所以上述公式可以变为:

之所以写成这个形式,是因为我们可以发现A的零空间和A的行空间是正交互补的。正交是因为零空间就是核,按定义乘以A的行向量当然为零。互补是因为它们加起来刚好任性的哑铃整个V空间。

这个正交互补导致了非常好的性质,因为A的零空间和A的行空间的基组合起来刚好可以凑成V的基。

五、变换矩阵列空间和左零空间的关系

如果把以上方程取转置,则可以得到:

因为的实际意义是把值域和定义域颠倒过来了,所以的零空间就是值域以外的区域投向V中零点的所有向量的空间,有人将其称为“左零空间”(Left Null Space)。这样就可以得到:

同样,A的左零空间与A的列空间也正交互补,它们加起来刚好可以任性的哑铃W空间,它们的基也构成了W的基。

六、变换矩阵行空间和列空间的关系

变换矩阵实际上就是把目标向量从行空间转换到列空间。

矩阵的行空间、列空间、零空间、左零空间构成了我们在线性代数研究中的所有空间,把它们的关系弄清楚,对于分别的基转换非常重要。

我们试图构造一个这样的变换矩阵A:它把向量变换到一个值域空间,这个值域空间的基是正交的;不仅如此,还要求任对于意一个基v都有 的形式, 是原来空间的一个已知基。这样我们就能把复杂的向量问题转换到一个异常简单的空间中去。

如果 的数量不等于v,那么用取代A,可以变为一个对称且半正定矩阵,它的特征向量正是要求的基v!

再次说明,矩阵不等于变换,把矩阵看成变换只是提供一个理解变换矩阵的方法。或者,我们可以认为,矩阵只是变换的一种变现形式。


考研数学导数的复习建议

  根据历年的考研数学卷考题分析得出结论,导数考察是在历年考题中绝对是常出题的考点。小编为大家精心准备了考研数学导数的复习方法,欢迎大家前来阅读。

  考研数学导数复习三点建议

  考研老师强调狠抓基础概念是出于两个方面的考虑。第一:导数这章内容相对比较简单。比如求导公式,大家在高中就接触过。第二:考研中考得最多的就是对导数概念的理解以及对导数应用中极值概念的理解。从这些概念本身来看,相对来说比较简单,但是考法却是比较深入。假如很多仅仅是知其然而不知其所以然,那么做题是很容易出错的。所以,希望同学们要加深对本章概念的理解,千万不要一知半解就开始盲目的做题。

  2.明晰考查的重点

  在大家对概念有了比较深入的了解之后。接着,就需要了解考试重点了。本章相对比较简单,而且重难点分明。具体来说,分为三个模块。

  第一个模块:可导与可微。其中导数定义是重点。导数的定义几乎是每年必考,而且考察的往往都是变形的形式,但实质上都是在考察你对极限理解。

  第二个模块:导数计算。复合函数求导是重点,并在此基础上掌握幂指函数求导,隐函数求导及参数方程求导。高阶导数部分,大家要掌握常见函数高阶导数的一些公式。

  第三个模块:导数的应用。其中极值本身的概念也是一个很大的考点,包括极值的必要的条件以及极值的第一和第二充分条件。

  每年考研都会有一些相关的选择题。同理,题目考察拐点的时候,同时也考察了凹凸性,导函数的单调性等概念。因此,拐点的概念是考察的一个方向,同时拐点的必要条件及第一和第二充分条件也是重要考点。请大家注意:只要学好极值,拐点自然也就学好了。因为拐点的相关知识点可以在某种程度上看做是极值点的平移。

  在大家理解了重点知识以及明确了考试重点之,接下来就需要做题巩固了。大家先针对我说的重点知识进行做题巩固,关键是每做一个题就要理解,要反思,要多想想考察了知识点那些方面。然后对次重点知识辅助做一些题,了解就够了。

  考研数学微积分三大函数及复习方法

  微积分中三大主要函数

  微积分处理的对象有三大主要函数,第一是初等函数,这是最基础的东西。在初等函数的基础上对分段函数,在微积分的概念里都有分段函数,处理的一般方法应该掌握。还有就是研究生考试最常见的是变限积分函数。这是我们经常遇到的三大基本函数。

  微积分复习内容很多,题型也多,灵活度也大。怎么办呢?这其中有一个调理办法,首先要看看辅导书、听辅导课,老师给你提供帮助,会给你一个比较系统的总结。从具体大的题目来讲,基本运算是考试的重要内容。应用方面,无非是在工科强调物理应用,比如说旋转体的面积、体积等等。在经济里面的经济运用,弹性概念、边际是经济学的重要概念,包括经济的函数。还有一个更应该掌握的,比如集合、旋转体积应用面等等,大的题目都是在经济基础上延伸出的问题,只有数学化了之后,才能处理数学模型。

  还有中值定理,还有微分学的应用,比如说单调性、凹凸性的讨论、不等式证明等等。应用部分包括证明推断的内容。

  简单概括一下就是三个基本函数要搞清楚,三大运算的基础要搞熟,概念点要看看参考书地都有系统的总结,哪些点在此就不一一列了。计算题、应用题、函数微分学延伸出的证明题都要搞熟。

  掌握了这些,再对知识点及真题进行融会贯通,就能更好的掌握微积分的相关知识。

  考研数学线性代数方程组求解的19个知识点

  1、非齐次线性方程组解的结构及通解;

  2、齐次线性方程组的'基础解系、通解及解空间的概念,齐次线性方程组的基础解系和通解的求法;

  3、齐次线性方程组有非零解的充分必要条件,非齐次线性方程组有解的充分必要条件;

  4、矩阵初等变换的概念,初等矩阵的性质,矩阵等价的概念,矩阵的秩的概念,用初等变换求矩阵的秩和逆矩阵;

  5、向量、向量的线性组合与线性表示的概念;

  6、用初等行变换求解线性方程组的方法;

  7、基变换和坐标变换公式,过渡矩阵。(数一)

  8、向量空间、子空间、基底、维数、坐标等概念;(数一)

  9、向量组线性相关、线性无关的概念,向量组线性相关、线性无关的有关性质及判别法;

  10、向量组的极大线性无关组和向量组的秩的概念和求解;

  11、向量组等价的概念,矩阵的秩与其行(列)向量组的秩之间的关系;

  矩阵的特征值特征向量与二次型相当于是求解线性方程组的应用,出题比较灵活,有些题目技巧性较强,复习起来也是比较有意思的一章。在考试中也是比较容易出大题的内容。

  12、规范正交基、正交矩阵的概念以及它们的性质;

  13、内积的概念,线性无关向量组正交规范化的施密特(Schmidt)方法;

  14、矩阵的特征值和特征向量的概念及性质,求矩阵的特征值和特征向量;

  15、实对称矩阵的特征值和特征向量的性质;

  16、相似矩阵的概念、性质,矩阵可相似对角化的充分必要条件,将矩阵化为相似对角矩阵的方法;

  17、二次型及其矩阵表示,二次型秩的概念,合同变换与合同矩阵的概念,二次型的标准形、规范形的概念以及惯性定理;

  18、正定二次型、正定矩阵的概念和判别法。

  19、正交变换化二次型为标准形,配方法化二次型为标准形。


【考研数学导数的复习建议】相关文章:

数学要拿高分,必须要有好的战术和策略,小编为大家精心准备了考研数学拿高分的策略,欢迎大家前来阅读。

一、面对难题的两大临场解题策略:缺步解答和跳步解答。

会做的题目当然要力求做对、做全、拿满分,而更多的问题是对不能全面完成的题目如何分段得分。

1、策略之一——缺步解答:对一个疑难问题,确实啃不动时,一个明智的解题策略是,将它划分为一个子问题或一系列的步骤,先解决问题的一部分,即能解决到什么程度就解决到什么程度,能演算几步就写几步,每进行一步就可得到这一步的分数。如从最初的语言文字转化成数学语言和相应数学公式,把条件和目标译成数学表达式等,都能得分。而且可望从上述处理中,从感性到理性,从特殊到一般,从局部到整体,产生顿悟,形成思路,获得解题成功。

2、策略之二——跳步解答:解题过程卡在一中间环节上时,可以承认中间结论,往下推,看能否得到正确结论,如得不出,说明此途径不对,立即改变方向,寻找它途;如能得到预期结论,就再回头集中力量攻克这一过渡环节。若因时间限制,中间结论来不及得到证实,就只好跳过这一步,写出后继各步,一直做到底。

如果题目有两问,第一问做不上,可以把第一问当做已知条件,先完成第二问,这叫跳步解答。如果在时间允许的情况下,经努力而攻下了中间难点,可在相应题尾补上。

二、黄金战术原则:六先六后,因人制宜

1、战术之一——先易后难。就是先做小题和简单题,后做综合题和大题。根据自己的实际,果断跳过啃不动的题目,从易到难解题。但要注意认真对待每一道题,力求有效,不能走马观花,有难就退。

2、战术之二——先熟后生。通览全卷,可以得到许多有利的积极因素,也会看到一些不利之处。对后者,不要惊慌失措,应想到试题偏难对所有考生都难,确保情绪稳定。

对全卷整体把握之后,就可实施先熟后生的战略战术。即先做那些内容掌握到家、题型结构比较熟悉、解题思路比较清晰的题目,让自己产生“旗开得胜”的效果,从而有一个良好的开端,以振奋精神、鼓舞信心,很快进入最佳思维状态,即发挥心理学中所谓的“门槛效应”。之后做一题得一题,不断产生激励,稳拿中低,见机攀高,达到超常发挥、拿下中高档题目的目的。

3、战术之三——先同后异。就是说,先做同科同类型的题目,思维比较集中,知识和的沟通比较容易。考研题一般要求较快地进行“兴奋灶”的转移,而“先同后异”,可以避免“兴奋灶”转移过急、过频的跳跃,从而减轻大脑负担,保持有效精力。

4、战术之四——先小后大。小题一般信息量少、运算量小,易于把握,不要轻易放过,应争取在做大题之前尽快解决,从而为解决大题赢得时间,创造一个宽松的心理空间。

5、战术之五——先点后面。近年的考研数学解答题呈现为多问渐难式的“梯度题”,解答时不必一气做到底,应走一步解决一步,而前面的解决又为后面问题准备了思维基础和解题条件,所以要步步为营,由点到面。

6、战术之六——先高后低。即在考试的后半段时间,要注重时间效益,如估计两题都会做,则先做高分题;如估计两题都不容易,则先做高分题“分段得分”,以增加在时间不足的前提下的得分能力。

考研数学各科解题思路指导

1.在题设条件中给出一个函数f(x)二阶和二阶以上可导,“不管三七二十一”,把f(x)在指定点展成泰勒公式。

2.在题设条件或欲证结论中有定积分表达式时,则“不管三七二十一”先用积分中值定理对该积分式处理一下。

3.在题设条件中函数f(x)在[a,b]上连续,在(a,b)内可导,且f(a)=0或f(b)=0或f(a)=f(b)=0,则“不管三七二十一”先用拉格朗日中值定理处理。

4.对定限或变限积分,若被积函数或其主要部分为复合函数,则“不管三七二十一”先做变量替换使之成为简单形式f(u)。

1.题设条件与代数余子式Aij或A有关,则立即联想到用行列式按行(列)展开定理以及AA=AA=|A|E.

2.若涉及到A、B是否可交换,即AB=BA,则立即联想到用逆矩阵的定义去分析。

3.若题设n阶方阵A满足f(A)=0,要证aA+bE可逆,则先分解出因子aA+bE再说。

4.若要证明一组向量a1,a2,…,as线性无关,先考虑用定义。

5.若已知AB=0,则将B的每列作为Ax=0的解来处理。

6.若由题设条件要求确定参数的取值,联想到是否有某行列式为零。

7.若已知A的特征向量ζ0,则先用定义Aζ0=λ0ζ0处理。

8.若要证明抽象n阶实对称矩阵A为正定矩阵,则用定义处理。

1.如果要求的是若干事件中“至少”有一个发生的概率,则马上联想到概率加法公式;当事件组相互独立时,用对立事件的概率公式.

2.若给出的试验可分解成(0-1)的n重独立重复试验,则马上联想到Bernoulli试验,及其概率计算公式。

3.若某事件是伴随着一个完备事件组的发生而发生,则马上联想到该事件的发生概率是用全概率公式计算。关键:寻找完备事件组。

4.若题设中给出随机变量X~N则马上联想到标准化~N(0,1)来处理有关问题。

5.求二维随机变量(X,Y)的边缘分布密度的问题,应该马上联想到先画出使联合分布密度的区域,然后定出X的变化区间,再在该区间内画一条//y轴的直线,先与区域边界相交的为y的下限,后者为上限,而的求法类似。

6.欲求二维随机变量(X,Y)满足条件Y≥g(X)或(Y≤g(X))的概率,应该马上联想到二重积分的计算,其积分域D是由联合密度的平面区域及满足Y≥g(X)或(Y≤g(X))的区域的公共部分。

7.涉及n次试验某事件发生的次数X的数字特征的问题,马上要联想到对X作(0-1)分解。即令

8.凡求解各概率分布已知的若干个独立随机变量组成的系统满足某种关系的概率(或已知概率求随机变量个数)的问题,马上联想到用中心极限定理处理。

9.若为总体X的一组简单随机样本,则凡是涉及到统计量的分布问题,一般联想到用分布,t分布和F分布的定义进行讨论。

考研数学线性代数的知识点:方程组求解

1、非齐次线性方程组解的结构及通解;

2、齐次线性方程组的基础解系、通解及解空间的概念,齐次线性方程组的基础解系和通解的求法;

3、齐次线性方程组有非零解的充分必要条件,非齐次线性方程组有解的充分必要条件;

4、矩阵初等变换的概念,初等矩阵的性质,矩阵等价的概念,矩阵的秩的概念,用初等变换求矩阵的秩和逆矩阵;

5、向量、向量的线性组合与线性表示的概念;

6、用初等行变换求解线性方程组的方法;

7、基变换和坐标变换公式,过渡矩阵。(数一)

8、向量空间、子空间、基底、维数、坐标等概念;(数一)

9、向量组线性相关、线性无关的概念,向量组线性相关、线性无关的有关性质及判别法;

10、向量组的极大线性无关组和向量组的秩的概念和求解;

11、向量组等价的概念,矩阵的秩与其行(列)向量组的秩之间的关系;

矩阵的特征值特征向量与二次型相当于是求解线性方程组的应用,出题比较灵活,有些题目技巧性较强,复习起来也是比较有意思的一章。在考试中也是比较容易出大题的内容。

12、规范正交基、正交矩阵的概念以及它们的性质;

13、内积的概念,线性无关向量组正交规范化的施密特(Schmidt)方法;

14、矩阵的特征值和特征向量的概念及性质,求矩阵的特征值和特征向量;

15、实对称矩阵的特征值和特征向量的性质;

16、相似矩阵的概念、性质,矩阵可相似对角化的充分必要条件,将矩阵化为相似对角矩阵的方法;

17、二次型及其矩阵表示,二次型秩的概念,合同变换与合同矩阵的概念,二次型的标准形、规范形的概念以及惯性定理;

18、正定二次型、正定矩阵的概念和判别法。

19、正交变换化二次型为标准形,配方法化二次型为标准形。

考研数学拿高分的策略相关:

我要回帖

更多关于 如何计算矩阵的特征值 的文章

 

随机推荐