Действительно ли возможно изменить радиус скругленного прямоугольника в после его созданного?

Нет, но можно работать вокруг этого путем создания 4 кругов и 2 прямоугольников в векторной маске. Работа кругов как скругленные углы и прямоугольники заполняет горизонтальное и вертикальное пространство. Оттуда, все, что необходимо сделать, является преобразованием круги и прямоугольники, как Вы считаете целесообразным.

Можно загрузить CS5.PSD этого по http://imsky.org/files/CustomRoundedRectangle.psd