Für alle die noch Antworten wollen hier ein paar Bilder um was für einen PC es sich handelt:
hier das Mainboard:
Meiner Meinung nach bekommst du da keine andere VGA rein, denn erstens müsste die ein Short-Bracket haben und zweitens woher soll eine bessere VGA bei dem kleinen Netzteil den Strom her bekommen? Abgesehen, wie schon von anderen erwähnt wurde, die Abwärme.
Meine Empfehlung: den PC verkaufen und einen anständigen PC holen.