>>166
画面座標系 → 正規透視座標系 → カメラ座標系 → ワールド座標系
と逆変換を行う
この時使用される行列は、元行列の逆行列を使用する必要がある

ここにサンプルがあるので見てみたら?
http://www.c3.club.kyutech.ac.jp/~sukiyaki/3dt/mouse.html