Não tem nada a ver a memória e esse número é complicado de dizer, na Techzone por exemplo existe um limite no Apache para acessos em simultâneo, geralmente esses limites são mais contra ataques do que realmente a realidade. O número de pessoas online que aparece é calculado através das visualizações nos últimos 5,10,15,30,60 minutos pelas pessoas (cada ip/user só pode ser contado uma vez), pelo que podem abrir e sair e ainda estarem a contar.
Sobre o limite real, vai depender de imensos factores, pondo de parte a ligação (100Mbps dá mesmo para muita gente num fórum), o CPU é um dos componentes que mais influencia, depois os discos, não é o tamanho dos ficheiros que interessa mas o número de acessos ao disco, neste caso à base de dados, mesmo com discos 15000rpm, estes influenciam muito a fluidez ou lentidão do site, sendo que a memória não influencia assim tanto, nos dias que correm uma maquina pode levar mais de 40GB de ram e não ficar muito caro, pelo que ficar sem memória é complicado...