Ще допълня означенията по твоя чертеж ,че да е по-лесно.
http://img190.imageshack.us/i/zadacha2.jpg/▲ABC подобен на ▲DEC
=>AB/DE=CH/CH1
9/6= H/x ; H=CH, x=CH1
=>HH1=EN=DM=6 cm
6=H-x
x=H-6
9x=6H
9(H-6)=6H
9H-54=6H
3H=54
H=18 cm
=>Ch1=18-6 =12 cm
▲DEC подобен на ▲FGC
=>6/FG=CH1/CH2
6/m=12/(12-m)
72-6m=12m
18m=72
m=4 cm
Страната на малкия квадрат е 4 см.