Cлоев всего 32 и все доступны в рантайме, просто большинство не стандартных не имеют имени (если не задать).
Матрицу коллизий в рантайме можно настраивать с помощью
Physics.IgnoreLayerCollision
ИМХО найти с помощью
LayerMask.LayerToName первый слой без имени и его настроить функцией, приведенной выше.