uma solução muito comum é montares um servidor sem gui. apenas console.
se instalares um servidor de ssh ficas com acesso remoto à consola.
se instalares ainda um servidor web podes ficar com algumas funcionalidades acessiveis via http.
tudo depende do que queres fazer com o server.
Eu tenho um server debian headless (fileserver, webserver, mediaserver e p2p) e consigo configurar tudo remotamente.