>>864
それかページのフラグメンテーションか。

スワップをたっぷりとって、
melloc + memset でメモリ上のプロセスを一旦全部スワップに追い出してみれ。