3. Найдите неопределенный интеграл: a) f(x-1)√ xdx; b) (2 - 4 sin x)dx.

V=(40-X)(64-X)X - функция.
найти максимум, х∈(0, 40).
найдем производную от V=(40-X)(64-X)X=х³-104х²+2560х
она равна 3х²-208х+2560
найдем стационарные точки , приравняв производную к 0 , и решив кв. ур-ние             3х²-208х+2560=0
1)  х=(104+√(104²-3·64·40))/3=(104+√((8·13)²-3·64·40)))/3=
=(104+√(8²(13²-3·40)))/3=(104+8√(13²-3·40))/3=(104+8√(169-120))/3=
=(104+8·7)/3=160/3

2) х=(104-√(104²-3·64·40))/3=(104-56)/3=16
ОСТАЛОСЬ по достаточному условию экстремума убедиться, что  х=16 - точка максимума, проверяем знаки производной при переходе через эту точку, решаем неравенство 3х²-208х+2560>0, или простыми вычислениями для значений х из соответствующих промежутков.)

вот как-то так...-))

1) (Х + 2)*(x - 2)/ (Х - 1)(x - 2) = (x² - 4) / (Х - 1)(x - 2) = (x² - 4) / (x² - 3x + 2)
(Х + 1) (x - 1) / (Х - 2)(x - 1) = (x² - 1) / (Х - 2)(x - 1) = (x² - 1) / (x² - 3x + 2)
2) (Х - 3) (x - 3)/ (Х + 3)(x - 3) = (x - 3)² / (x² - 9)
 Х*(x + 3) / (Х - 3)(x + 3) = x*(x + 3) / (x² - 9)
3)  (3 + Х)(x - 3) / (Х - 5)(x - 3) =  (x² - 9) /  (Х - 5)(x - 3) =  (x² - 9) / (x² - 8x + 15)
 Х*(x - 5) / (Х - 3)(x - 5) = Х*(x - 5) / (x² - 8x + 15)
4)  (Х + 1)(x + 2) /x*(x² - 4) = (x² + 3x + 2) /x*(x² - 4) 
x (4 + Х) / x( x² - 4)