削除→コピーをやめて上書きコピーにするとか(ゴミ残る可能性あり)
シェルスクリプトとかで削除→コピーを一気にやってファイルが存在しない期間を最小限にするとか
やり方はいろいろあると思うけど、何を懸念している？