FreeBSDを語ろう Part 11
■ このスレッドは過去ログ倉庫に格納されています
0508名無しさん@お腹いっぱい。
2006/05/03(水) 10:36:19FreeBSDのデフォルトの設定では、浮動小数点はIEEEの規格に合わせて
64bitの精度で計算するけど、x86のFPUのレジスタは80bitなんだよ。
LinuxはデフォルトではIEEE規格には従っていない。
つまりIEEEの規格に従わなければ、メモリにストアするまで、CPU内では
ずっと80bitのまま計算できることになる。
FreeBSDでもLinuxと同じように、IEEEの規格に従わず80bit精度で計算したければ、
gccのオプションに -mno-ieee-fp を付けたり、-fbuiltinを付けたりすればいい。
>>506
整数演算で丸め誤差がでるの?
■ このスレッドは過去ログ倉庫に格納されています