por exemplo tenho um clip em formato avi com baixa resolução
(ex: 300x400) e gostaroa de o transformar para alta resolução
(ex: 1280x1024) sem perder qualidade e se possivel ate melhora-la
Não podes melhorar aquilo que não existe!
Podes sim, tentar fazer um "resample" (tal como em imagens tipo jpeg ou bmp). Um bom utilitário é o nosso conhecido VirtualDub!