>>34
すみません、ポリゴンモデルのボーンの回転の計算を行っているので、
単純に行列を一致させるが目的ではなく、
ベクトルの回転量を求めるのが目的になっています。
(ボーンに従属してる頂点の移動を計算するために。)
そのためA行列のベクトルAx,Ay,Azだけを回転させてB行列と一致させる必要があるので、
外積を回転させるのは…

と書いてて思いましたが、外積の回転をAx,Ay,Azに割り振ればできるのかも…?
時間があったら試して見ます。ありがとうございます。