Viva,
Tenho ambos os sistemas e fazendo uma simples comparação diria que o melhor depende do proposito para o qual será utilizado.
Por exemplo, se for para jogar, uma ps3 claramente é melhor, se for para se ver dvd's diria que fica equilibrado, se for para ver divx claramente o htpc tem vantagem. Para ver HD também depende do formato, se for blurays ps3 é preferivel, se for para mkvs hd entao o htpc claramente é mais vantajoso.
Com um htpc podes fazer coisas mt engraçadas, tipo ter uma placa de satelite, vários canais simultaneos, pausa e play, elevado nível de parametrizações, definições e customizações. Com uma ps3 tem um sistema mais fechado mas também consegues navegar na web, ter um sistema operativo instalado e costumizares de acordo com o que desejas, jogar, jogar e jogar
Enfim, a escolha nao é facil e depende exactamente do que fores fazer, pelo que te sugiro que definas exactamente o q queres fazer para que seja possivel tomares a decisão que melhor se enquadra com as tuas necessidades.
Fica bem