C#開発日記(.NET FrameWork)｜初心者から上級者まで｜C#プログラミングでわからない事を解決する方法>型変換による精度保持の方法

C#プログラムで精度保持は必要なテクニックです。

 // 整数での算術演算の場合、精度の高い型に変換（キャスト）して演算する

int    M = 5 ;

int    N = 3 ;

double X = M / N ;                 // 1   （小数点以下の情報が失われる）

double X = (double)(M / N) ;       // 1   （小数点以下の情報が失われる）

double X = (double)M / (double)N ; // 1.666...（ＯＫ！）

型変換によらない精度保持

 // 整数での算術演算の場合、演算の順番に注意する → 除算は最後に行う！

int L =  2 ;

int M =  4 ;

int N =  6 ;

int J = L / M * N ;  // 0（ＮＧ：除算を先に行ってはダメ）

int K = L * N / M ;  // 3（ＯＫ：乗算を先に行う）

 // Note: 乗算と除算は、演算の優先順位が同じなので、上記の場合、左から順に

 //       評価（計算）される。

型変換の悪い例

 // 精度の低い型への暗黙的変換は行えない

long  L = 123456 ;

int   M ;

int   N ;

M =      L ;  // コンパイルエラーが発生！（精度の低い型への暗黙的変換）

N = (int)L ;  // コンパイル ＯＫ！       （精度の低い型への明示的変換）

-----------------------------------------------------------------------

 // 精度の低い型への明示的変換でも注意が必要

long  L = 123456789012 ;

int   N ;

N = (int)L ; // -1097262572intの表現範囲値を超えているので変な結果になる！）

内部変換誤差の蓄積

 // 0.0001を10000回加算すると、ぴったり１になるか？→浮動小数点ではＮＧ！

float   X = 0 ;  // 32 bit 浮動小数点 型（有効桁 約  7 桁）

double  Y = 0 ;  // 64 bit 浮動小数点 型（有効桁 約 16 桁）

decimal Z = 0 ;  // 固定小数点 型       （有効桁 約 29 桁）

for (int N = 1 ; N <= 10000 ; N ++)

{

    X += 0.0001f ;  // 結果 1.000054

    Y += 0.0001  ;  // 結果 0.999999999999906

    Z += 0.0001m ;  // 結果 1

}

 // Note: decimal型では内部変換誤差は発生しないが、浮動小数点型では

 /       内部変換誤差が発生することがあるので、注意すること！