Попытайтесь играть с CVT и xrandr, короткое практическое руководство здесь: http://www.ubuntugeek.com/how-change-display-resolution-settings-using-xrandr.html
Попытайтесь отредактировать/etc/X11/xorg.conf
в следующем разделе добавьте эти три строки с подобными значениями для Вашего удобства:
"Monitor"
HorizSync 30.0 - 70.0
VertRefresh 50.0 - 160.0
Option "PreferredMode" "1280x1024"
Будьте осторожны с этим, оценивает, потому что они могут уничтожить Ваш монитор - взглянули на технические детали для горизонтальных / частот кадровой развертки.
Или подключите свой монитор с dvi-разъемом вместо vga.