Olha que só o título não explicitou bem o que querias
Queres saber se
aquele programa está aberto, ou queres saber se o TEU programa está aberto?
É o seguinte: Se queres fazer com que o teu programa não possa ser aberto duas vezes (abres uma vez, mas não podes abrir outra enquanto não fechares a primeira), podes fazer no Form_Load um "If App.PrevInstance Then Unload Me".
Se queres saber se um determinado programa está aberto, tens várias formas de o saber, mas todas envolvem API.
Podes "apanhar" todos os processos abertos, e procurar o processo que te interessa, ou podes usar a API FindWindow(), e para isso precisas do título da janela.
Explicita-te melhor, sff
Abraço
angelofwisdom