Можно и без 3D ( в смысле не переделывать AStar под 3D) сделать, как раньше в играх делали:
типа plane, а горы достаточно высокие и являются непроходимыми клетками (плюс непроходимые деревья, камни и т.д.) . Тогда в AStar'е даже менять ничё не придется
!