¿Era el hardware capaz de soportar esa resolución? Me refiero tanto como salida de tarjeta de video como entrada de monitor. Solo considerando el reloj de píxeles real (ignorando los porches delantero / trasero, sincronizaciones h / v, etc.), a una frecuencia de actualización de 60 Hz:
320 * 240 * 60Hz = 4608000 ~ = 4.61 MHz 400 * 300 * 60Hz = 7200000 = 7,20 MHz
Estamos hablando de un reloj ~ 56% más alto aquí.
Y esto es ANTES de considerar porches, sincronizaciones, etc.
Comentarios
Después de leer Edición especial del Libro negro de programación de gráficos de Michael Abrash y otros recursos, tengo una buena idea de por qué el Modo X es 320×240.
La razón principal es que los monitores VGA asequibles eran « frecuencia fija » y solo podían hacer frente a un pequeño conjunto de entradas. Configurar 400×300 en ellos obtendría algo como esto : 
En general, las tarjetas gráficas VGA eran bastante poca potencia y era un desafío conseguir una animación fluida incluso a 320×240. La VRAM era más lenta que la memoria principal y tenía la mitad o la cuarta parte del ancho de banda (8 bits frente a 16 o 32 bits).
Del libro :
Sin embargo, la velocidad máxima a la que se pueden escribir datos al adaptador resulta ser no más de un byte cada microsegundo. Dicho de otra manera, solo puede escribir un byte en este adaptador cada 33 ciclos de reloj en un 486/33. Por lo tanto, no importa qué tan rápido hice el código de dibujo de líneas, nunca podría dibujar más de 1,000,000 de píxeles por segundo en el modo de 256 colores en mi sistema.
El comentario de Philipp también es correcto. Hay un truco que puedes hacer para empuja 32 bits por ciclo al búfer trasero.