Если видеокарта не работает при больших нагрузках, все равно проблема вероятнее всего кроется в недостатке питания
Быть может сильно проседает шина дополнительного питания для видеокарты или же в БИОСе надо выставлять бОльшее напряжение питания(лезть не рекомендую).
Я не знаю всех деталей, но, проверка видеокарты действительно ответит как минимум на половину вопросов.