ファイルシステムの空き領域をゼロで埋めるツール(というか方法)ってありますか？

ファイルシステムを解釈しないアーカイバで丸ごとディスクを
バックアップしたいのですが、余計なゴミのせいでファイルサイズが
肥大化するのをなんとかしたいです。
dd if=/dev/zeroか何かで何とかなるのかな？