Wie kann ich die Auflösung des Bildschirms ändern, durch Eingabe eigener Werte

dann belass es doch mal dabei?

oder Du schaust mal nach, was in der nach der Neuinstallation wieder verlinkten
/etc/X11/mhwd/vesa
drinsteht

außerdem würde ich definitiv mal das hier tun:

Nouveau - ArchWiki

nouveau in den MODULES Abschnitt der /etc/mkinitcpio.conf eintragen

Es sollte auch gefahrlos möglich sein, den xf86-video-vesa Treiber komplett (via pamac oder pacman) zu deinstallieren.
So daß nur noch der vermeintlich richtige zur Verfügung steht.
Kann ich aber nicht testen in meiner VM - da gibts den gar nicht