Ich hatte ein ähnliches Problem mal unter Vista, auch sehr unscharfe Videos, egal mit welchem Player. Bei mir lag es an den Einstellungen der Nvidia Steuerungssoftware, Du kannst dort ja generell einstellen in welcher Auflösung Videos wiedergegeben werden, bzw ob die Anwendung Kontrolle über die Einstellungen hat oder die Systemsteuerung. Versuch mal ein bisschen mit diesen Einstellungen zu spielen, bei mir das das Abhilfe geschaffen.
Nachtrag:
Wenn ich später zu Hause bin, kann ich Dir mal meine Einstellungen als Screenshot per PN schicken, kannst ja mal Testen ob du das Problem damit beheben kannst, dauert aber noch ne ganze Weile