я делаю так - капчур в формат, что придется, если место позволяет, можно вообще без сжатия. А потом VirtualDub - отрезать лишнее там, если надо, подрезать размер и им пожать уже в xvid. Ничего глобального для монтажа не применяю.
Собственно, писать весь экран не обязательно, можно же прогу...