先令|入-AE|=0，解出A的特征值，因为A与B相似，所以特征值相同，可以求出a,b的值。然后将求出的特征值代回到特征方程解出特征向量，利用施密特正交化求出彼此正交的特征向量，3个特征向量组成正交矩阵P。
