[Mr_F_]

если не запаковать нормали в отрезок [0;1]

и не распаковать их впоследствии

потому что ты тупо выбрасываешь все значения < 0?
в ргба8 хранится по байту на канал (0-255) (в шейдерах выглядит как флоаты 0-1)