解:(1)设M的坐标为(x,y),显然有x>0,且y≠0 当∠MBA=90°时,点M的坐标为(2,±3) 当∠MBA≠90°时,x≠2, 由∠MBA=2∠MAB有tan∠MBA= 化简可得3x 2 -y 2 -3=0 而 点(2,±3)在曲线3x 2 -y 2 -3=0上 综上可知,轨迹C的方程为3x 2 -y 2 -3=0(x>1); (2)直线y=-2x+m与3x 2 -y 2 -3=0(x>1)联立, 消元可得x 2 -4mx+m 2 +3=0① ∴①有两根且均在(1,+∞)内 设f(x)=x 2 -4mx+m 2 +3, ∴ ∴m>1,m≠2 设Q,R的坐标分别为(x Q ,y Q ),(x R ,y R ), ∵|PQ|<|PR|, x R =2m+ ∴ ∵m>1,且m≠2 ∴ ∴ ∴ |