Решение.
(0, 0) ? нулевое решение данной системы. Найдем якобиан системы:
Найдем собственные значения, посчитав следующий определитель:
, ,
, .
Так как вещественная часть одного собственного значения положительна, то нулевое решение неустойчиво (по Ляпунову).