整理できないとは言ってないよ。
同じCPU(A)のアーキテクチャ(a1,a2)をarch/A/a1とarch/A/a2と整理したとして、
CPUは違う(B)けれどa1に良く似たアーキテクチャ(b1)があったときに、
arch/A/a1とarch/B/b1の共通部分はどこに置こうか、
とかそういう話はどう整理しても残るんじゃないかな。

あとは凝りだすとsubsubarchが欲しくなるとか。

今はarch/Aがあったりarch/a1があったりarch/a1&b1があったり、
みたいな状況だよね？