И так... вот... все это... ну помним что:

Если Вы захватываете видео с вертикальным разрешением выше половины полного разрешения (т.е. 288 для PAL или 240 для NTSC), то получаемые вами 'кадры' на самом деле будут чередующимися[interleaved] парами полей. В зависимости от того, что вы собираетесь делать с видео, можно оставить их в таком виде, произвести разрушающую (с возможной потерей качества) построчную развёртку, либо разделить пары обратно в отдельные поля.

Иначе Вы получите фильм с сильными искажениями в сценах с быстрыми движениями, и управление битпотоком, скорее всего, будет даже не в состоянии поддерживать необходимый уровень битпотока, поскольку артефакты чересстрочной развёртки создают огромное количество мелких деталей и поэтому отнимают большую часть полосы пропускания. Вы можете включить преобразование в построчную развёртку, используя -vf pp=DEINT_TYPE. Обычно pp=lb работает хорошо, но это уже субъективное мнение. Другие алгоритмы преобразования в построчную развёртку см. на man-странице и попробуйте их.

Все это применительно к проэкту Mplayer, а именно mencoder.

Соответственно строчка для захвата будет:
mencoder -endpos 00:05:00 -quiet tv:// -tv driver=v4l2:device=/dev/video0:input=2:width=384:height=288:noaudio:fps=25 -ovc lavc -lavcopts vcodec=mpeg4 -o test.avi