Биты являются группами трех, результаты корректны, я действительно не понимаю, что Вы неправильно поняли. 5 читается, выполнитесь, но порядок rwx не изменяется. Рассмотрите их как переключатели, они могли бы быть на (r/w/x) или прочь (-). Здесь снова обзор значений:
7(8) = 111(2) => rwx
5(8) = 101(2) => r-x
1(8) = 001(2) => --x