Произведение на два полинома от степени респективно [tex]m[/tex] и [tex]n[/tex] дава полином от степен [tex]m+n[/tex]. Аналогично, частното на полиноми от сптепени [tex]p[/tex] и [tex]m[/tex] е полином от степен [tex]p-m[/tex].
[tex]f(x)[/tex] е полином от шеста степен, а [tex]g(x)[/tex] е полином от втора степен, следователно частното им (ако се делят точно без остатък) е полином от четвърта степен (6-2). Нека коефициентите на частното означим с първите букви от латинската азбука (ще пропуснем e, f и g за да избегнем неясноти), тогава имаме:$$ \frac{3x^{6}-3x^{5}-9x^{4}+x^{2}-1}{x^{2}-x-3}=ax^{4}+bx^{3}+cx^{2}+dx+h $$
Умножаваме на кръст, разкриваме скобите и подреждаме дясната страна по степени:
[tex]3x^{6}-3x^{5}-9x^{4}+x^{2}-1 = (x^{2}-x-3)\cdot{(ax^{4}+bx^{3}+cx^{2}+dx+h)} \hspace{0.3em} \Leftrightarrow \\ 3x^{6}-3x^{5}-9x^{4}+x^{2}-1 = x^{2}\cdot{(ax^{4}+bx^{3}+cx^{2}+dx+h)}-x\cdot{(ax^{4}+bx^{3}+cx^{2}+dx+h)}-3\cdot{(ax^{4}+bx^{3}+cx^{2}+dx+h)} \hspace{0.3em} \Leftrightarrow \\ 3x^{6}-3x^{5}-9x^{4}+x^{2}-1 = \red{ax^{6}}+\blue{bx^{5}}\green{+cx^{4}}\orange{+dx^{3}}\purple{+hx^{2}}\blue{-ax^{5}}\green{-bx^{4}}\orange{-cx^{3}}\purple{-dx^{2}}-hx\green{-3ax^{4}}\orange{-3bx^{3}}\purple{-3cx^{2}}-3dx\gray{-3h} \\ \red{3x^{6}}\blue{-3x^{5}}\green{-9x^{4}}\orange{+0x^{3}}\purple{+1x^{2}}+0x\gray{-1} = \red{ax^{6}}+\blue{(b-a)x^{5}}\green{+(c-b-3a)x^{4}}\orange{+(d-c-3b)x^{3}}\purple{+(h-d-3c)x^{2}}-(h+3d)x\gray{-3h}[/tex]
Отляво допълнихме липсващите трета и първа степен с коефициент нула за да се вижда по-лесно съответствието на двете страни.
Понеже полиномите от двете страни са равни, следва че коефициентите на едночлените от една и съща степен са равни, което води до системата:$$ \begin{array}{|l} a = 3 \\ b-a=-3 \\ c-b-3a = -9 \\ d-c-3b = 0 \\ h-d-3c = 1 \\ -(h+3d)=0 \\ -3h = -1 \end{array} $$
Понеже полиномите не се дялят без остатък, системата няма решение.