[tex]x^2-2\left(k+1\right)x+4k=0[/tex]
[tex]--------------------------------------------[/tex]
[tex]x_1^2+x_2^2>16-8k[/tex]
Прибавяме израза [tex]2x_1x_2[/tex], за да получим формула, и изваждаме същия израз, за да не променим условието.
[tex]x_1^2+2x_1x_2+x_2^2-2x_1x_2>16-8k[/tex]
[tex]\left(x_1+x_2\right)^2-2x_1x_2>16-8k[/tex]
[tex]--------------------------------------------[/tex]
[tex]x^2-2\left(k+1\right)x+4k=0[/tex]
Коефициентите на уравнението са: [tex]a=1,\ b=-2\left(k+1\right),\ c=4k[/tex]
От формулите на Виет имаме, че [tex]x_1+x_2=-\frac{b}{a }=-\frac{-2\left(k+1\right)}{1 }=2\left(k+1\right)[/tex] и [tex]x_1x_2=\frac{c}{a }=\frac{4k}{1 } =4k[/tex]
[tex]--------------------------------------------[/tex]
Заместваме в неравенството [tex]\left(x_1+x_2\right)^2-2x_1x_2>16-8k[/tex]
[tex]\left[2\left(k+1\right)\right]^2-2.4k>16-8k[/tex]
[tex]4\left(k^2+2k+1\right)-\cancel{8k}>16-\cancel{8k}[/tex] [tex]/:4[/tex]
[tex]k^2+2k+1>4[/tex]
[tex]k^2+2k-3>0[/tex]
[tex]D=1^2-\left(-3\right)=1+3=4[/tex]
[tex]k_1=-1+\sqrt{4}=-1+2=1,\ k_2=-1-\sqrt4=-1-2=-3[/tex]
Следователно [tex]k\in \left(-\infty ;-3\right)\cup\left(1;+\infty\right)[/tex]