O OpenOffice.org math é muito profissional e permite muita coisa. Até mais que o MathType (e mais ainda que o Equation do Word que é uma limitação deste). O problema é que funciona por tags (é baseado em LaTeX) e tirando os comandos e os poucos atalhos que tem só lá vais vendo o manual (ainda que com a rotina acabes por fazer fluentemente).
De qualquer maneira,
http://www.google.pt/search?hl=pt-PT&q=linux+equation+editor&btnG=Pesquisar&meta=, uma pesquisa no Google, mostra-nos que a maior parte das alternativas são baseadas em LaTeX, também.