[moka]

Как сказал Mr_F_ либо храни доп. информацию в каждой вершине с направлением для сглаживания (можно легко автогенирировать при загрузке модели, пробегаясь по всем вершинам и смешивая нормали для тех, что имеют общую позицию, и добовлять в вершинные буфера).

Либо если тебе нужна обводка, это лучше достигается пост обработкой, следственно посмотри в этом направлении тоже.