Возможно это особенность видеоадаптеров intel: по DVI-I можно пустить как цифру, так и аналог, карта опрашивает монитор и так и так, выставляет неправильный режим и на выходе получается ерунда.
Для эксперимента можно извратиться и подключить монитор к компу VGA-кабелем с двумя переходниками на DVI-I на концах
