in

The Fundamental Axiom of Floating Point Arithmetic

Taming Floating Point Error
If you’ve been a software engineer for long enough, it is very likely that you’ve seen this example of floating point perfidy:
>>> 3.0 / 100.3
>>> 0.1…
Leggi tutto

What do you think?

193 points
Upvote Downvote

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

r/sysadmin

Calcio: la Roma passa al Gruppo Friedkin per 591 milioni di euro