Надо при каких значениях многочлен x^4 + ax^3 - bx^2 + 3x - 9 делится на (x+3)^2 без остатка. x^2 - это икс в квадрате (для тех, кто не понял обозначение).

P(x) делится на Q(x), если существует многочлен R(x) такой, что P(x) = Q(x) * R(x).
Если всё так, то по правилам дифференцирования P'(x) =  Q'(x) R(x) + Q(x) R'(x).

Здесь P(x) = x^4 + ax^3 - bx^2 + 3x - 9, Q(x) = (x + 3)^2. 

Рассмотрим эти равенства при x = -3. Поскольку Q(-3) = Q'(-3) = 0 и R(x) и R'(x) - полиномы, то P(-3) = P'(-3) = 0.

P(-3) = 81 - 27a - 9b - 9 - 9 = -9(3a + b - 7) = 0
P'(-3) = -108 + 27a + 6b + 3 = 3(9a + 2b - 35) = 0

9a + 2b = 35
3a + b = 7

Умножаем второе уравнение на 2 и вычитаем его из первого:
3a = 21
a = 7

b = 7 - 3a = -14

P(x) = x^4 + 7x^3 + 14x^2 + 3x - 9 = (x + 3)^2 (x^2 + x - 1)
держи)