C#開発日記(.NET FrameWork)｜初心者から上級者まで｜C#プログラミングでわからない事を解決する方法>内部変換誤差のお話

C#プログラミングの内部変換誤差についてのお話

 // 0.0001 を 10000 回 加算すると、ぴったり １ になるか？

 //                                      → 浮動小数点ではＮＧ！

float   X = 0 ;  // 32 bit 浮動小数点 型（有効桁 約  7 桁）

double  Y = 0 ;  // 64 bit 浮動小数点 型（有効桁 約 16 桁）

decimal Z = 0 ;  // 固定小数点 型       （有効桁 約 29 桁）

for (int N = 1 ; N <= 10000 ; N ++)

{

    X += 0.0001f ;  // 結果 1.000054

    Y += 0.0001  ;  // 結果 0.999999999999906

    Z += 0.0001m ;  // 結果 1

}

 // Note: decimal型では内部変換誤差は発生しないが、浮動小数点型では

 //       内部変換誤差が発生することがあるので、注意すること！