float和double怎么用
回答
愛揚教育
2022-06-13
- 相關(guān)推薦
float和double的精度是由尾數(shù)的位數(shù)來決定的。
擴展資料
浮點數(shù)在內(nèi)存中是按科學計數(shù)法來存儲的，其整數(shù)部分始終是一個隱含著的“1”，由于它是不變的，故不能對精度造成影響。
float：2^23 = 8388608，一共七位，這意味著最多能有7位有效數(shù)字，但絕對能保證的為6位，也即float的精度為6~7位有效數(shù)字；
double：2^52 = 4503599627370496，一共16位，同理，double的精度為15~16位。
因為float最多能有7位有效數(shù)字， float x = 51539607552，減去1000后，有效數(shù)字不變，double x為11位可以計算。