Зачем Ройсам отдавать новополученные земли своим вассалам?
В качестве вознаграждения вассалу за услуги, оказанные Дому. Пример раз: во время оно Корбреи отрезали от своих земель кусочек, объявили его отдельным леном и вручили в качестве пенсионного фонда уволенному со службы домашнему рыцарю Баэлишу. Пример два: Станнис отрезал от владений Баратеонов кусок для новопроизведенного в рыцарское звание контрабандиста Давоса, объявив этот кусочек леном Дома Сиворт.
Я так предполагал, что новый замок/новые земли отдаются младшим сыновьям, которые образуют новую ветвь Дома
Бывает, но это совершенно не правило. Личный лен, равно как и право стать основателем Дома, нужно ЗАСЛУЖИТЬ, в противном случае от грандлордского владения ни хрена не осталось бы - лет за сто все разрезано на кусочки и передано очередным младшим сыновьям.
предположим, что Спайсеры вассалы Вестерлингов. Рольф Спайсер, ставший Лордом Кастамере, вассал Вестерлингов или напрямую Ланнистеров?
Рольф Спайсер, лорд Кастамере - вассал Ланнистеров. А вот Рольф Спайсер из Перечницы (гиипотетический лен Дома Спайсер, вассальный Кряжу) - вассал Вестерлингов. Точно так же лорд Петир Баэлиш из Башни-на-Перстах - вассал Корбреев, а грандлорд Петир Баэлиш из Харренхолла - вассал непосредственно Железного трона.
или же родовое имение перейдёт его кузену Сэмвеллу?..
Кузена Сэмвелла новопроизведенный лорд Рольф Спайсер оставит кастеляном Перечницы, но оба владения - его. При условии, что глава Дома Спайсер именно он, в противном случае - хозяином Перечницы остается глава Дома Спайсер, а лорд Рольф из Кастапере образует младшую ветвь дома, которая по положению выходит выше старой, такое тоже бывает.