なんとなくわかりました。ありがとうございます。

つまり
ダイナミックリンクされてるライブラリは、実行時必要、スタティックリンクされてるライブラリはコンパイルが終われば不要。
ダイナミックリンクはRubyのライブラリみたいに置いておけばいいってことですね。でldconfigが必要と。
あと、ldconfigの設定内容って、誰が保持してるんですか？OS？