Не може ли да стане от диагоналното сечение АСС1А1 ?
Даже може да разгледаш общия случай:
Означаваш страната на квадрата с а, единия радиус r с център О и другия R(неизвестен) с център О1.
Спускаш проекции Н и Н1 съответно на О и О1 в равнината АВСД.
Тогава имаш трапец ОНН1О1, в който ОН=r, O1H1=R, OO1=r+R, HH1=?2(a-r-R).
Тогава спускаш височина от О към О1Н1 в трапеца, примерно ОК, след което в правоъгълния триъгълник О1ОК имаш 3-те страни, изразени чрез r, R и a.
Тоест по дадени две от тези дължини можеш да намериш третата.
В случая са ти дадени r и a, тоест единият радиус и страната, другият вариант е да ти дадат двата радиуса на допиращите се сфери и да кажат да намериш страната на квадрата, което ми звучи по-забавно

Получава се уравнение [tex]\sqrt 2(a-r-R)=2\sqrt{rR}[/tex], от което лесно по дадено r и а намираш каквото ти трябва.
Ключовото еда се сетиш за височината ОК.

Извън кръга на шегата е интересно как се намира разстоянието от центъра на сферата до върха на куба, както и определянето на конфигурацията при допирането на сферите(дали А, О и О1 лежат на 1 точка)