Só precisas é de saber como fazer as conversões entre decimal -> binario/heaxadecimal e vice versa (coisa que é facilimo).
Binário - base 2
Heaxadecimal - base 16
Depois de perceberes bem a conversão entre as bases é uma questão de estruturares bem isso e passares o teu método de calculo para linguagem assembly.
PS. e tal como Tux te disse ninguém vai fazer o programa por ti. Este fórum serve para te ajudar e não para fazer as coisas por ti.