У меня Nvidia GeForce 1050, как и у вас, и я пользуяся кодеками LAV, как и вы, поэтому я бы хотел с вами посоветоваться.

Что ставить в Dithering Mode - Ordered Dithering или Random Dithering?
Какой Hardware Decoder использовать? LAV предлагает выбрать между DXVA(copy-back) и D3D11, говоря, что остальные хардвеар декодеры не поддерживают выбранное устройство.
Что выбрать в Software Deinterlacing: Yadif, Weston, Bobweaver или ничего?