AVI ist nicht AVI.
DivX z.b. sollte TMPGEnc konvertieren können (wenn Du den passenden Codec installiert hast).
Bei XviD hingegen sieht es schon schlechter aus..... wenn dort der Audiostream eine variable Bitrate hat (was meist der Fall ist), steigt TMPGEnc aus.
Ich würde versuchen die Dateien mit VLC in ein TMPGEnc kompatibles Format umzuwandeln, um dann mit TMPGEnc ein MPEG1/2 daraus zu machen.