1º O fórum de OC tem um sub-fórum de dúvidas - para onde este tópico foi movido e onde deveria ter sido originalmente criado.
2º Os clocks máximos estáveis dependem de muitos factores, mas claro que há valores médios. Para a 8800GT não sei dizer, mas parece que o Core faz à volta de 700 com 1.10V.
3º Não há 3 tipos de overclock, há 3 'estados' da placa gráfica: a processar simples 2D - por exemplo, quando estás no ambiente de trabalho -, o modo 3D 'pouco exigente', que nem sei se ainda é usado, e o modo 3D - jogos, aplicações 3D. O que se pode definir no Rivatuner são clocks dos vários componentes da placa gráfica para cada 'estado';
4º Não há 'valores que devo por' em overclock; há certos valores que não fogem muito à média ou são fixos, e há aqueles que é preciso variar muito para experimentar as diversas situações em overclock;
5º Eu sei que a resposta foi um bocado vaga, mas a pergunta também não foi muito específica. Convinha saber primeiro de que marca é a placa e que clocks originais tem - ver com o GPU-Z - para saber, por exemplo, se já traz overclock de origem em relação à referência da NVIDIA.