про проецирование
про пересечение прямой и плоскости
не оно?
Хотя наверно проще и правильней получить карту глубины с направления от источника света и в шейдере для каждого пикселя сравнить расстояние от источника света и глубину на карте где свет есть.