文字コードに関する質問があるんですが、どなたか妙案おねがいいたします。

現在Fedoraを（UNIXじゃないですが）使っていて、ロケールはUTF-8です。
しかしながら、とある商用アプリがUTFをサポートしていないので、しかたなく
(set-default-coding-systems 'euc-jp)としてEUC-JPでEmacsを使おうとしました。
すると、こんどはM-x compile でmakeするとエラーメッセージが化けて、
バックスラッシュと数字になってしまいます。
OSはUTFのままで、なんとかcompileのメッセージをうまく表示させる方法はないでしょうか？

GNU Emacs 21.4.1
↓文字コードにかかわる部分はこれだけしか書けていません。
(set-language-environment "Japanese")
(set-default-coding-systems 'euc-jp)