高さに関してはハイトフィールドで螺旋階段も問題ないでしょ。
プレイヤーの腰当たりからレイ飛ばして、一番Ｙの高い位置で判断すればいいし、
隣接ポリゴンのリスト持っておいて自分の周囲ある程度のポリゴンしか判定しなければいいし。

ＸＺへの移動に関してはどっちみち別途コリジョンをもっておかないと柵とか対応できない。
法線方向見て片方からは通れるようにすれば崖とか階段の下とかも問題なす。