usa o ProPhoto RGB porque é o perfil com maior espaço de cor
O sRGB, AdobeRGB e ProPhotoRGB não são "perfis", são "espaços de cor". Há é perfis sRGB, AdobeRGB e ProPhotoRGB, cada um com mais detalhe que o anterior.
O software de edição deve ser o mesmo perfil de cor do sistema operativo, ou o perfil que escolhemos no software de edição é independente do perfil que estiver no sistema operativo?
Suponhamos que eu tinha o sistema operativo em sRGB e o software em Adobe RGB, o sRGB estaria a limitar o espaço de cor do software de edição? (neste caso, apesar do software de edição estar com o perfil de cor mais alargado, este iria ser limitado pelo sistema de cor do OS?
Depende do software e do OS. Embora perceba como funciona a gestão de cor em geral, e em particular no Windows, no Mac não sei como será. Por isso nem sei se estas a falar em "espaços de cor" ou em "perfis de cor otimizados para um determinado espaço de cor".
O "perfil de cor" é um ficheiro ICC ou ICM que caracteriza um dispositivo ou imagem dentro de um determinado "espaço de cor", não só nas suas capacidades (gamut), mas também na forma como "converte" input em output. Esses perfis existem porque quase sempre é necessário fazer conversões ao passar de um dispositivo para outro.
O espaço de cor sRGB foi desenhado para ser suficientemente grande para cobrir toda a gama de cores (gamut) que pode ser criada com dispositivos mais comuns (ex.: LCDs, impressoras de jatos de tinta caseiras) e assume que as cores são armazenadas com 8-bits por canal. O seu propósito foi simplificar a gestão de cores evitando por completo conversões entre dispositivos. Isto é, o "vermelho 138" armazenado num ficheiro JPEG sRGB)pode ir diretamente como "vermelho 138" para qualquer dispositivo "calibrado" para sRGB (sem ser necessário aplicar um perfil de conversão pelo meio). Na realidade há conversões, mas estas são feitas internamente pelo hardware dos dispositivos e não pelo software.
Os espaços de cores maiores (AdobeRGB, ProPhotoRGB) permitem representar gamuts maiores e pressupõem mais bits por canal (16-bits como mínimo). Para maximizar o rendimento deste tipo de espaços de cor, é indispensável ter uma gestão de cores adequada em todos os dispositivos usados ao longo do workflow (é aqui que entram os perfis de cor de cada dispositivo). O "vermelho 35190" em AdobeRGB pode ser "vermelho 138" de uma impressora usando o seu perfil sRGB ou o vermelho 2500 usando seu perfil nativo. Como se pode ver neste exemplo, é usual que o perfil nativo aproveite melhor as capacidades do dispositivo (neste caso, é a diferença entre 138 tons e 2500 tons).