Щом $PC = x$ и страната на квадрата ти е 3, то значи $BP = CQ = 3-x$.
Оттам ползвай подобието на $\Delta ABP \approx \Delta ECP$, откъдето извличаш $\frac{AB}{CE} =
\frac{BP}{CP} \Rightarrow CE = \frac{3x}{3-x}$
Остана и от Питагорова теорема за $\Delta ECP$ да изразиш също и $CE = \sqrt{PE^2 - CP^2} = \sqrt{16 - x^2}$
И решаваш уравнението, за което говориш...
$x^4 - 6x^3 + 2x^2 + 96x - 144 = 0$
Опитах се по поне 6 различни начина да получа нещо ново, но всичко води до това уравнение от четвърта. Та това ме наведе на мисълта да се позанимавам с него и предимно с мисълта, че ТРЯБВА да има някакви корени (очаквано, а

). Та, в този ред на мисли се върнах към един много полезен, но често забравян и недооценяван метод за разлагане на многочлен от четвърта степен на два от втора -
метода на неопределените коефициенти (мисля, че в този си вид имаше нещо общо с името на Даламбер, но не съм сигурен...). На надкандидатстудентско ниво има много по-академични обяснения, но аз ще се придържам към училищната му форма:
Ако имаш един многочлен от четвърта степен, на който коефициентът пред най-високата (четвъртата) степен е единица, то значи той може да се разложи (ако има решение, а пък ако няма - ще го докажем по-късно, също може да се намери по този начин) до произведение на два квадратни тричлена във вида:
$(x^2 + ax + b)(x^2 + cx + d) = 0$
И сега ако разкриеш скобите, полиномът от четвърта степен придобива вида:
$x^4 + (a + c)x^3 + (b + ac + d)x^2 + (ad + bc)x + bd = ax^4 - 6x^3 + 2x^2 + 96x - 144 = 0$
Решаваш система в цели числа:
[tex]\begin{array}{|l} a + c = -6 \\ d + ac + b = 2 \\ ad + bc = 96 \\ bd = -144 \end{array}[/tex]
Сега тук става страшно... но това е най-човешкото, до което успях да стигна.
______________________________
Друга алтернатива би било опит за решение на полинома с правило на Хорнер, но така или иначе няма да те доведе до резултати.
_______________________________
Иначе решението на уравнението:
$\frac{3-x}{x} = \frac{3}{\sqrt{16 - x^2}}$ (от което следва и полиномът горе) е $x = \sqrt{7} - 1$ (което е и единствено валидно решение на полинома).
Оттам имаме $QE = QC + CE = 3 - x + \sqrt{16 - x^2} = 4 + \sqrt{8 + 2\sqrt{7}} - \sqrt{7}$, което си е доста странен отговор като за кандидатстудентска задача... И аз дотук блокирам

П.С.: Благодарение на @КОРМОРАН усетих, че накрая под корена съм забравил да обърна един минус, което ми беше довело и до грешния краен резултат. Но да, в този си вид наистина дължината на отсечката можем да сведем до формули за квадрат на сбор и оттам да получим 5. Но методът на решение на колегата си остава златен

Нямаше пък и да предположа дори, че точно грешното полагане ще доведе до такива главоблъсканици, докато с обратното полагане на $x$ ставало къде-къде по-лесно... а има логика в това