Картинка: https://i.imgur.com/KLm5KUK.jpg

Я вижу 16-ричную систему. Но тогда в подсчетах ошибка. 
В 16 системе А -10, В - 11 С - 12, D - 13, Е - 14 F - 15
D5 = 5*16^0 + D*16^1 = 5+13*16 = 213(в десятичной)
1A = 1*16^1 + A*16^0 = 16+10 = 26 (в десятичной)
BA = B*16^1 + A* 16^0 = 11*16+10 = 186
Если отнять эти числа в 10-й системе, то выходит 213 - 26 - 187.
Поэтому в задаче или у тебя в записи ошибка. Разность в 16-й системе, т.е количество сказаок равна не ВА, а ВВ, тогда все получится.
В*16^0+B*16^1 = 11 = 16*11 = 187
И тогда ответ - 16-ричная ситстема счисления.

Алгоритм
1) a x a = a² ⇒ b;    b x a = a³ ⇒ результат
2) a x a = a² ⇒ b;    b x b = a⁴ ⇒ c;   c x c = a⁸ ⇒ c;   c x b = a¹⁰ ⇒ результат

Программа на языке PascalABC.Net
var
  a,b,c,y:real;
begin
  Write('Введите число: '); Read(a);
  b:=a*a; y:=b*a; Writeln('Третья степень числа равна ',y);
  c:=b*b; c:=c*c; y:=b*c;
  Writeln('Десятая степень числа равна ',y)
end.

Тестовые решения:
Введите число: 2
Третья степень числа равна 8
Десятая степень числа равна 1024

Введите число: -13.594
Третья степень числа равна -2512.128188584
Десятая степень числа равна 215512594781.574