Cutout пишет в буфер глубины и является как бы твердым объектом. В результате объекты за ним не рисуются и нет необходимости сортировать непрозрачную геометрию. Для прозрачной геометрии все сложнее.... чтобы она лучше работала объект можно разделить на более мелкие части. Например огонь или что там из него выходит сделать отдельным объектом с прозрачностью, а остальную часть модели оставить Cutout
У камеры вроде было два режима сортировки, пробовал оба?
http://docs.unity3d.com/Documentatio...ySortMode.html