Основното е да съобразиш, че максимума на лицето на третата околна стена е когато [tex]\angle ADB=\frac{\pi }{2 }[/tex].
[tex]S_{ADB}=\frac{1}{2 } AD.DB.sin(\angle ADB)=\frac{1}{2 }.1.1.sin(\angle ADB) \le \frac{1}{2 }[/tex]
Останалото е лесно, защото пирамидата е напълно определена. Нещо повече,?ADB??ACB.
Ако т.N е средата на DC, то [tex]\angle ANB=2\alpha[/tex].
[tex]AB^2=AN^2+BN^2-2.AN.BN. cos(\angle ANB)[/tex]
[tex](\sqrt{2})^2=(\frac{\sqrt{3} }{2 })^2 + (\frac{\sqrt{3} }{2 })^2 -\frac{\sqrt{3} }{2 }.\frac{\sqrt{3} }{2 } . cos(\angle ANB)[/tex]
[tex]-2.\frac{3}{4 } cos(\angle ANB)=\frac{1}{2 }[/tex]
[tex]cos(2\alpha)=-\frac{1}{ 3}[/tex]
[tex]cos(2\alpha )=2cos^2\alpha -1[/tex]
[tex]cos\alpha =\sqrt{\frac{1}{3 } }[/tex]
П.П. Става и по-бързо ако свържеш т.N със средата на [tex]AB[/tex], тогава [tex]sin\alpha=\frac{\sqrt{2} }{ 2} :\frac{\sqrt{3} }{2 }=\sqrt{\frac{2}{ 3}[/tex].
П.П. Цитирания от теб отговор очевидно е грешен. Ако [tex]cos \alpha <0[/tex] , то [tex]\alpha >\frac{\pi }{2 }[/tex], т.е. [tex]2\alpha >\pi[/tex]. Последното е вдлъбнат ъгъл.