為什么我們代碼將浮點數(shù)、整數(shù)進(jìn)行強(qiáng)制轉(zhuǎn)換,或打印輸出時會出精度損失,或出錯的情況?
想要搞明白這個問題,就需要了解一下整數(shù)、浮點數(shù)的存儲規(guī)則。
浮點數(shù)存儲規(guī)則
根據(jù)國際標(biāo)準(zhǔn)IEEE(電氣和電子工程協(xié)會)規(guī)定,任何一個浮點數(shù)NUM的二進(jìn)制數(shù)可以寫為:
NUM = (-1) ^ S * M * 2 ^ E; (S表示符號,E表示階乘,M表示有效數(shù)字) ①當(dāng)S為0時,表示一個正數(shù);當(dāng)S為1時,表示一個負(fù)數(shù); ②M表示有效數(shù)字,1<= M <2; ③2^E表示指數(shù)比如十進(jìn)制的3.0,二進(jìn)制就是0011.0 就可以寫成(-1)^ 0 * 1.1 * 2 ^ 1 再比如十進(jìn)制的-3.0,二進(jìn)制就是-0011.0 就可以寫成(-1)^ 1 * 1.1 * 2 ^ 1 而規(guī)定float類型有一個符號位(S),有8個指數(shù)位(E),和23個有效數(shù)字位(M) double類型有一個符號位(S),有11個指數(shù)位(E),和52個有效數(shù)字位(M) 以float類型為例:
測試
代碼如下:void test(void)
{
float m=134.375;
char *a=(char*)&m;
printf("0x%p:%d ",a,*a);
printf("0x%p:%d ",a+1,*(a+1) );
printf("0x%p:%d ",a+2,*(a+2) );
printf("0x%p:%d ",a+3,*(a+3) );
}
代碼輸出結(jié)果:
具體的計算過程如下:
精度損失
我們可以把十進(jìn)制的小數(shù)部分乘以2,取整數(shù)部分作為二進(jìn)制的一位,剩余小數(shù)繼續(xù)乘以2,直至不存在剩余小數(shù)為止。例如0.2可以轉(zhuǎn)換為:0.2 x 2 = 0.4 00.4 x 2 = 0.8 00.8 x 2 = 1.6 10.6 x 2 = 1.2 10.2 x 2 = 0.4 00.4 x 2 = 0.8 00.8 x 2 = 1.6 1… 即:.0011001…它是一個無限循環(huán)的二進(jìn)制數(shù),這就是為什么十進(jìn)制小數(shù)轉(zhuǎn)換成二進(jìn)制小數(shù)的時候為什么會出現(xiàn)精度損失的情況。 之前前不久給大家分享的《單精度、雙精度、多精度和混合精度計算的區(qū)別是什么?》可能大家不是很明白,今天看了浮點數(shù)的存儲規(guī)則,你明白了嗎?整數(shù)的存儲規(guī)則
理解了浮點數(shù)的存儲規(guī)則,再理解整數(shù)就很簡單了。
整數(shù)在內(nèi)存中都是以補(bǔ)碼的形式進(jìn)行存儲,整數(shù)有正負(fù)之分。當(dāng)需存儲有符號數(shù)時,用第一位來表示正(0)和負(fù)(1)。
正數(shù)的反碼和補(bǔ)碼還是它本身,下面主要討論下負(fù)數(shù)的反碼和補(bǔ)碼。反碼是其原碼除去最高符號位后其余位按位取反,補(bǔ)碼是其反碼在加上1 。
測試代碼:
輸出結(jié)果:void test(void)
{
int8_t n=-123;
uint8_t *p=(uint8_t *)&n;
printf("%d ",n);
printf("%d ",*p);
}

計算過程如下:
審核編輯 :李倩
-
二進(jìn)制
+關(guān)注
關(guān)注
2文章
802瀏覽量
41875 -
浮點數(shù)
+關(guān)注
關(guān)注
0文章
61瀏覽量
15968 -
代碼
+關(guān)注
關(guān)注
30文章
4858瀏覽量
69547
原文標(biāo)題:內(nèi)存中整數(shù)和浮點數(shù)存儲的差異
文章出處:【微信號:strongerHuang,微信公眾號:strongerHuang】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
小數(shù)在內(nèi)存中是如何存儲的?為什么C語言中的浮點數(shù)不支持位移操作?

浮點數(shù)的表示方法

浮點數(shù)常用的編碼方法

浮點數(shù)在內(nèi)存中的存儲

談一談浮點數(shù)的精度問題

什么是浮點數(shù)
FPGA浮點數(shù)表示及計算機(jī)數(shù)值表示規(guī)則

西門子PLC浮點數(shù)程序案例分享

單精度和雙精度浮點數(shù)的區(qū)別
單精度和雙精度浮點數(shù)的區(qū)別
modbus浮點數(shù)怎么讀取
一文帶你秒懂IEEE 754浮點數(shù)

評論