P4P800 действительно капризная мать, подтверждаю как владелец. По ходу ввиду хорошей напичканности железом BIOS получился сложнее, чем хотелось бы даже для самих создателей

А в твоем случае я бы все-ж таки перед поиском хитро-непонятных причин таких заморочек проверил очевидную версию, которую мать подсказывает - т.е. память. Ну и настройки BIOS'а на Default скинуть. Начать с этого, а там как пойдет

Память твоя вполне может быть и неплохая сама по себе, но конкретно в этой машине в этой конфигурации не работать. Косяки везде бывают, и у Асуса тоже.
p.s. Вот P3BF - это была мать