ふ〜やっと斜め読み終わった。
読んでみたところで専門学校出には９９％理解できないんだが。。
>>561
ポリゴンＡを形成する三角形と
ポリゴンＢを形成する線分(辺)の交点を求めれば良いと思う。
その交点が線分に乗ってれば当たっている。

ただしＡが完全にＢに入り込んでいる場合、あるいは逆だと、
交点は生じないので注意が必要。
ポリゴンＡ上から(例えば適当に選んだ頂点)
適当な半直線(例えばＺ軸に平行な線)を設定して、
ポリゴンＢの三角形との交点が奇数なら、
ＡがＢに入り込んでいると判断していいんじゃないかな。

閉じてない形状だったり、自己干渉していたりしている場合はﾜｶﾝﾈ。