>>962
convex-hull でググれ。
ちなみにbullet にその計算生成処理を実装した機能あるよ