Введите три целых числа:
1 5 4
Максимальное число 5

В ячейку А1 вписываете первое трехзначное число.
В ячейку В1 вписываете формулу =СУММПРОИЗВ (ОКРВНИЗ (ОСТАТ (A1/2^(СТРОКА ($1:$10)-1);2);1)*10^(СТРОКА ($1:$10)-1))
В А2 - второе число, в А3 третье число и т. д. Ячейку В1 с формулой копируете по количеству чисел в колонке А.
Формула у меня получилась короче программы на встроенном в Excel языке программирования VBA, которая делает тоже самое.
Все что выше относится к Excel 2003.
Начиная с Excel 2007 среди встроенных функций есть ДЕС. В. ДВ Как ее использовать см Help.

Если в компьютере, значит надо перевести в двоичную систему.
Для того, чтобы перевести число из 10-ой в 2-ю с. с. , нужно разделить его на 2 и выделить остаток, затем частное снова разделить на 2 и выделить остаток. Процесс деления повторять до тех пор, пока в частном не останется 1. Затем, начиная с последнего частного – 1, переписываем все остатки в обратном порядке. Это и есть искомое число 
129/2 (целое 64) (остаток 1)
64/2 (целое 32) (остаток 0)
32/2 (целое 16) (остаток 0)
16/2 (целое 8) (остаток 0)
8/2 (целое 4) (остаток 0)
4/2 (целое 2) (остаток 0)
2/2 (целое 1) (остаток 0)
129 = 10000001