A escalabilidade ou sistemas/aplicações escaláveis definem-se como uma aplicação/sistema cujo tempo de reposta aumenta linearmente em função do aumento de utilizadores e não de uma forma exponencial.
Em desenvolvimento existem algumas regras de escalabilidade, mas a análise tem sempre que se fazer no contexto da aplicação/sistema.
Uma regra simples, por exemplo, prende-se com os acessos à DB e a carga transportada. Por exemplo se tiveres 1 milhão de registos numa base de dados relativos a transacções entre contas bancárias não podes trazer essa carga para o ecrã de uma só vez. Deve haver bastantes cuidados com query's. O SELECT nunca deve ser apenas SELECT * FROM qq coisa, mas sim SELECT com TOP XYZ e WHERE, ou seja trazer registos em função de uma condição e mesmo assim um máximo de XYZ de registos.
Se fizeres uma pesquisa no google por "Developing scalable applications" és capaz de encontrar algumas regras de escalabilidade que te possam interessar.