Quando falaste na mesma gama de IP's, queres dizer todos os IP's pertencentes a uma dada rede/sub-rede!
Para perceber o funcionamento é necessário saber fazer conversões binárias!
Utilizando o exemplo do mr_zener:
IP: 192.168.100.14
Mascara: 255.255.254.0
Gateway: 192.168.101.10
Trata-se da 50ª sub-rede da classe B 192.168.0.0
E como disse o TuxBoss e bem, a 50ª sub-rede vai do primeiro IP utilizável 192.168.100.1 ao 192.168.101.254.
Como tal, e de forma a rede funcionar, o gateway encontra-se, e tem que se encontrar, dentro deste intervalo.
Neste caso foram emprestados 7 bits do host da classe B (no 3º octeto) que permitem formar até 126 sub-redes utilizáveis, com o máximo de 510 hosts/IP's por cada sub-rede:
Número Binário da Mascara Utilizada: 11111111.11111111.11111110.00000000
Então para os hosts irão ser utilizados 9 bits (8 do último octeto + 1 do terceiro), ou seja, o zeros do número binário da mascara utilizada.
Cumprimentos,
JASG