みなさんありがとうございます。
結局、めり込みを考慮した衝突と反射に関しては簡単には計算できない、という事でよろしいのでしょうか。
自分的にもここで悩んでても仕方がない気がしてきたのでネットでペナルティ法やAB法というのを調べて実装してみたいと思います。

ありがとうございました。