Parece falta de memória virtual/paging file.
Se for o XP, Iniciar->O meu computador->Propriedades->Tab Avançado->Performance(Definições)->Tab avançado->Memória Virtual(alterar)
Aumenta para ser superior do que 640 MB em custom size, idealmente deve-se definir como 1.5x da tua memória RAM.
Clica em definir antes do OK, ele deve pedir um reboot e depois já deve dar.