Взимаме второто уравнение в лявата част:
$(3x - 4x^3)(3y-4y^3) = 9xy - 12 xy^3 - 12x^3y + 16x^3y^3 = 9xy - 12xy(x^2+y^2) + 16x^3y^3 = 9xy - 12xy + 16x^3y^3 = - 3xy + 16x^3y^3 = - \frac{1}{2}$
Полагаме $xy = t$ и получаваме
$\Rightarrow 32t^3 - 6t + 1 = 0$
Решенията са (намират се лесно по Хорнер) $t = -\frac{1}{2}$ и $t = \frac{1}{4}$. Нататък вече би трябвало да ти е лесно да довършиш системата, ще оставя на теб.