で、予想だけど、DxLibDotNet.DLLがx64で起動して32ビット版のDxLib呼び出しでエラーになってるんじゃないかと。
DxLibDotNetをANY CPUではなく32ビットでビルドしてくれればまるごとWOW64で起動できるんじゃないかな。