你的系统过于复杂，matlab需要调小步长才能够达到所需的精度收敛。解决方法：更换算法，比如可以试试变步长的其它算法，如ode23t之类的。或者直接采用定步长的算法，如ode4之类的，然后更改步长值为1e-5等等。如果都试过了还是不行，那就只能改进一下系统模型了。
