マトリックスから回転角を取得するのはたしかに至難だが、
移動・拡大縮小・回転(クォータニオン)の成分を抽出するのは簡単だし、
回転をクォータニオンで補間するなら特に問題ないじゃろ。

DirectX8の悪しきXファイルフォーマットの行列キーの時にも
移動・拡大縮小・回転に分解してフレーム間のモーション補間してる。