a) $\int x^3arctgxdx = I$
Ползваме интегриране по части (препоръчвам $DI-$метода):
$$\begin{array}{ c| c | c }
&D&I \\
\hline
+&arctgx&x^3 \\
\hline
-&\frac{1}{1+x^2}&\frac{1}{4}x^4 \\
\end{array}$$
$\Rightarrow I = \frac{1}{4}\Bigg(x^4arctgx - \int\frac{x^4}{1 + x^2}dx\Bigg) + C$
Нека сега разгледаме $J = \int\frac{x^4}{1 + x^2}dx = \int\frac{x^4 - 1 + 1}{1 + x^2}dx = \int\frac{(x^2 + 1)(x^2 - 1)}{1 + x^2} + \frac{1}{1 + x^2}dx = \int(x^2 - 1)dx + \int\frac{1}{1 + x^2}dx = \frac{1}{3}x^3 - x + arctgx + C$
Значи окончателно $I = \frac{1}{4}\Bigg((x^4 + 1)arctgx + \frac{1}{3}x^3 - x\Bigg) + C$
б) се решава абсолютно лесно само с интеграция по части. Погледни си лекциите как става... или отнякъде просто.