что произойдет, если я буду использовать DDR3 и DDR2 RAM одновременно?

Его Простое - Вы наклоняетесь.

Материнская плата откажется включать в лучшем случае или жарить поршень в худшем случае.

Какой mobo поддерживает обоих так или иначе?

Я не рекомендовал бы это, даже если у Вас есть uber специальная материнская плата, которая будет поддерживать смешанный поршень.

Слоты являются несовместимыми, таким образом, Вы не можете поместить Память DDR2 в Слот DDR3, или наоборот. Если Ваша поддержка МБ оба, как некоторые делают, то необходимо будет консультироваться с Документацией МБ, чтобы знать, можно ли использовать обоих одновременно (большинство делает, не все).