Приемаш едното не. за едната страна на правоъгълника и го означаваш с $x$, а другото не. - за другата, означена с $y$.
Съставяш системата:
$$\begin{array}{|l} 2x + 2y = 56 \\ (x - 6)(y-5) =\displaystyle \frac {xy}3 \end{array}$$
$$\begin{array}{|l} x + y = 28 \\ xy-6y-5x+30 =\displaystyle \frac {xy}3 \end{array}$$
$$\begin{array}{|l} x + y = 28 \\ 2xy-18y-15x+90 =0 \end{array}$$
От първото уравнение изразяваш $y=28-x$, заместваш във второто и получаваш квадратното уравнение:$$2x^2-59x+414=0$$Намираш му корените и натаък трябва да ти е ясно.