Uma das diferenças é que o 64bits tira partido de 4GB ou + de Ram e aumenta a estabilidade com esses níveis de memória.
Edit: Outra é que pode haver algumas incompatibilidades de software mas nada de mais porque agora todo o novo software e actual sai com uma "versão" ou compatível com 64Bits. Como podes ver eu uso o Home premium 64bits e não podia ter feito uma escolha melhor! Tambem na altura em que estava para comprar o pc fui vivamente recomendado a optar pelo 64bits e como disse não me arrependo. Cumps