Te diré un modo gráfico de hacerlo y muy sencillo. Pero para ello debes tener activado el escritorio convencional, no el que viene por defecto. En la seccion tutoriales y manuales tienes cómo hacerlo.
Pues bien, sobre el video que quieras reproducir pincha boton dcho y vete a Abrir con otras aplicaciones. En la lista busca VLC y marca la casilla inferior la que te dice Usar por defecto.
Ten en cuenta que lo que haces es asignar un tipo de archivo a VLC y video puede tener varios formatos: avi, mpg, flv, etc. Tendrías que hacerlo para cada formato.
Suerte