すみません。座標に関する質問です。
開始（st）、終点（ed）、st-edの直線（ln）として、
stとedから作られる矩形内のどこかに点（pt）があります。
st,ed,ptの座標のみ判明しています。
矩形の比率は不明です。長方形も含みます。
st＿＿＿＿
|＼　・←pt |
|　＼　　　　|
|　　＼　　　|
|　　　＼ln　|
|　　　　＼　|
|　　　　　＼|
￣￣￣￣￣ed
座標は整数値で、最大幅でも10ほどしかありません。
このときのlnからptまでの直線距離を求めたいのですが、
ピタゴラスの定理で、st-ptとpt-edを足したものでは精度が低く値を
何倍かしなければなりません。
この距離はA*アルゴリズムに用いるstからedまでの
最優先の距離を求めるための各座標のコストにしたいのですが、
何か方法はないでしょうか。