国产一区二区三区毛片_亚洲乱码AV中文一区二区_亚洲精品无码专区在线播放_日韩欧美一二_咪咪av影院_欧久久av一区二区

如圖通過模擬發(fā)現 被除數小于82時候，算出的結果是準的 。被除數大于83 ，為什么結果就不準了呢/有知道原因的小伙伴嗎

第二個圖打不開

幫看看分析一下

有沒可能F83其實是82.99992

有什么問題嗎？浮點數本來就是近似數

你繼續(xù)換其他數值,你會發(fā)現還有其他的數也會有誤差~

這就是傳說中,二進制不能用于表達任意值,通過浮點數格式,在有限范圍內盡可能精確的逼近目標值~

中間需要轉化一下。詳見以下視頻。更正K100應為E100。
https://www.bilibili.com/video/BV1vg411r7dj?spm_id_from=333.999.0.0&vd_source=fe01af24b36f4ec9d5907739c0079391
之前也看到過這個問題。網上搜索了一下。里面的內容需要批判繼承
三菱浮點數轉整數INT指令運算結果為什么不對.zip (1134 K) 下载次数:31

     學習

浮點數近似值

IEEE 754 浮點數的尾數部分是23位，也就是23位的二進制是真正實現數值的精度的，指數可以近似理解為確定小數點位數(這么說便于理解)。1/128=0.0078125,也就在這附近了，精度不夠了，所以浮點數不需要糾結最后面的小數，只要小數點前位數多，小數點后就會出現，甚至太多的話個位、十位、百位都有可能北省去