3D Game Engine Design
http://www.amazon.co.jp/exec/obidos/ASIN/1558605932

Web上で検索すると結構評判よさゲ。

＞いわゆるDirectXの解説書ではなくてマップの仕組みだとか当たり判定だとか、
＞3Dゲーム製作技術系とかそんな感じの奴。
まさにそういうことが描いてあったハズ。
ただし、ネットワークのことは書いてなかったハズ。

あとは、フリーの奴の主要な3Dエンジンのソースを読んでみるとか？