Предполагам става въпрос за геометрична прогресия с общ член $a_n,$ за която при дадените $$\begin{cases}a_1+a_3=20\\a_1a_3=36\end{cases}$$ трябва да се намери частното и първия член. Използвайки формулата за общия член $a_n=a_1q^{n-1}$ за геометрична прогресия, системата добива вида $$\begin{cases}a_1+a_1q^2=20\\a_1(a_1q^2)=36\end{cases}.$$

Друго нещо, което бихме могли да направим - нека за момент се абстрахираме от това, че говорим за каквато и да било прогресия. Решаваме системата $$\begin{cases}a_1+a_3=20\\a_1a_3=36\end{cases}$$ и получаваме наредените двойки $(2;18)$ и $(18;2)$. Имаме вече възможните стойности за $a_1,$ а съответните такива за $q$ лесно можем да намерим от $a_3=a_1q^2.$
Струва ми се, че вторият вариант е малко по-бърз.

"Студент – това е все още нищо, от което може да излезе всичко." – Шандор Петьофи