ソース読む限りでは同期待ちの計算あたりで止まってるのかな
けどvirtualBoxに垂直同期絡みのオプションなんてないよなぁ
もしライブラリのコンパイルができるのならDxGraphics2.cppの4134〜4168行をコメントアウトして
GRH.FrameTime=16;
に置き換えてみるとか・・・