Si Microsoft dice que 850*77,1 son 100.000 en vez de 65.535 es porque 850*77,1 son 100.000 y no 65.535. Y punto. ¿Acaso osas contradecir a Microsoft? [barrapunto.com];-)
vamos a ver si consigo explicarme: en esas multiplicaciones estas usando numeros con decimales, asi que se hacen con operaciones en coma flotante, resulta que 77.1 es uno de esos numeros que no se pueden representar exactamente en dicha notacion, asi que hay redondeos y demas que hacen que el resultado no sea totalmente exacto
norma para programadores: no useis coma flotante para calculos donde la exactitud es necesaria, por ejemplo, en calculos financieros, convertid todo a numeros enteros y usad solo operaciones asi (division entera, modulo...)
por cierto, como nota curiosa, el excel 2003 funciona perfectamente haciendo este calculo
--
Dale fuego a un hombre y estara caliente un dia, prendele fuego y estara caliente el resto de su vida.
por
pobrecito hablador
el Miércoles, 26 Septiembre de 2007, 16:44h
(#964457)
Si sabes inglés mírate éste artículo [wolfram.com]. En cuanto a lo de comparar números en coma flotante hay que crearse una función con un margen de error y esas cosas, seguro que hay muchos manuales por ahí.
Es por el tipo de datos
(Puntos:3, Divertido)( http://www.verborreaesporadica.info/ | Última bitácora: Jueves, 16 Febrero de 2012, 15:08h )
RAE:
recursividad.
1. f. Véase recursividad.
Vamos a ver, camarada
(Puntos:2, Interesante)( http://www.thewayfarer.info/ | Última bitácora: Domingo, 09 Noviembre de 2014, 21:20h )
-- Wayfarer
La Bitácora del Caminante [thewayfarer.info]
¿Y Icaza?
(Puntos:5, Divertido)( http://barrapunto.com/ | Última bitácora: Domingo, 26 Junio de 2011, 17:42h )
Salu2
Re:[OT] alguien sabe...
(Puntos:2)( http://barrapunto.com/ | Última bitácora: Lunes, 24 Febrero de 2014, 10:03h )
norma para programadores: no useis coma flotante para calculos donde la exactitud es necesaria, por ejemplo, en calculos financieros, convertid todo a numeros enteros y usad solo operaciones asi (division entera, modulo...)
por cierto, como nota curiosa, el excel 2003 funciona perfectamente haciendo este calculo
Dale fuego a un hombre y estara caliente un dia, prendele fuego y estara caliente el resto de su vida.
Re:[OT] alguien sabe...
(Puntos:1, Informativo)