За по-лесно ще положим $a = sin4x \in [-1; 1]$ и $b = cos^2x \in [0; 1]$, след което уравнението придобива по-човешкия вид: $a^2 + b = 2ab^2$
Ще го разгледаме като квадратно за $a$:
$a^2 - 2b^2a + b = 0$
$D = 4b^4 - 4b = 4b(b^3 - 1)$
И за да има решения, трябва $b \in (-\infty; 0] \cup [1; +\infty)$, което, сечено с ДС за $b$ от началото, ни дава само два случая за $b$:
I) $b = 0 \Rightarrow cos^2x = 0 \Rightarrow cosx = 0 \Rightarrow x = \frac{\pi}{2} + k\pi$
Тогава за $a$ остава $sin4x = 0 \Rightarrow 4x = k\pi \Rightarrow x = \frac{m\pi}{4}$
Решението тук не съм сигурен как трябва да го обединя, но бих казал нещо като: $x = \frac{\pi}{2} + k\pi = \frac{m\pi}{2}$, където $m = 2 + 4k$
II) $b = 1 \Rightarrow cos^2x = 1 \Rightarrow cosx = \pm 1 \Rightarrow x = k\pi$
Тогава за $a$ остава $sin4x = 1 \Rightarrow 4x = \frac{\pi}{2} + 2m\pi \Rightarrow x = \frac{\pi}{8} + \frac{m\pi}{2}$
Окончателно случаят няма решения, тъй като за да има, би следвало коефициентите да са $k = \frac{1}{8} + \frac{m}{2}$, което няма как да е цяло число.
И така... Не знам отново записът ми доколко е коректен, отворен съм за мнения и забележки