[Golem] 0.3 / 0.1 != 3

giomba giomba@linux.it
Mer 18 Apr 2018 18:47:01 CEST


Questo è quello che si diceva ieri sera a proposito dello 0.3, che non è
un problema di R ma di cambi di rappresentazione tra basi diverse, in
generale.

https://www.h-schmidt.net/FloatConverter/IEEE754.html

"Rounding errors:
Not every decimal number can be expressed exactly as a floating point
number. This can be seen when entering "0.1" and examining its binary
representation which is either slightly smaller or larger, depending on
the last bit."

Di nuovo complimenti ai relatori per la magnifica serata.

Ciao

--
giomba



Maggiori informazioni sulla lista golem