Молоток

Надо столько, чтобы хватило.
Это же просто логикой посчитать.
Есть гвоздь, он будет занимать всю ширину кадра, значит если кадр будет 1200 пикселей, получается, что на текстуру гвоздя, которая не тайлится по длине, нужно минимум 1200 пикселей, тогда пиксель текстуры будет соответствовать по размеру пикселю изображения. Если ширину изображения увеличить до 2400 пикселей, пиксель текстуры уже будет больше пикселя изображения в 4 раза по площади и в 2 раза по ширине, поэтому и будет мыло. Лучше размеры текстур подбирать такие, чтобы пиксель текстуры был меньше пикселя итогового изображения.