Historias
Slashboxes
Comentarios
 
Este hilo ha sido archivado. No pueden publicarse nuevos comentarios.
Mostrar opciones Umbral:
Y recuerda: Los comentarios que siguen pertenecen a las personas que los han enviado. No somos responsables de los mismos.
  • por sammael (16347) el Miércoles, 26 Septiembre de 2007, 10:55h (#964346)
    ( http://barrapunto.com/ | Última bitácora: Lunes, 24 Febrero de 2014, 10:03h )
    vamos a ver si consigo explicarme: en esas multiplicaciones estas usando numeros con decimales, asi que se hacen con operaciones en coma flotante, resulta que 77.1 es uno de esos numeros que no se pueden representar exactamente en dicha notacion, asi que hay redondeos y demas que hacen que el resultado no sea totalmente exacto

    norma para programadores: no useis coma flotante para calculos donde la exactitud es necesaria, por ejemplo, en calculos financieros, convertid todo a numeros enteros y usad solo operaciones asi (division entera, modulo...)

    por cierto, como nota curiosa, el excel 2003 funciona perfectamente haciendo este calculo
    --

    Dale fuego a un hombre y estara caliente un dia, prendele fuego y estara caliente el resto de su vida.
    [ Padre ]
    Puntos de inicio:    1  punto
    Modificador por Bonus-Karma   +1  

    Total marcador:   2  
  • por el_chucky (20878) el Miércoles, 26 Septiembre de 2007, 11:17h (#964353)
    ( http://barrapunto.com/ | Última bitácora: Martes, 08 Julio de 2014, 11:19h )
    Pues sí, es curioso que algo de microsoft funcione bien...
    --
    Nos leemos
    --------
    Cada user en su home y el root en la de todos
    [ Padre ]
  • Re:[OT] alguien sabe...

    (Puntos:1, Informativo)
    por pobrecito hablador el Miércoles, 26 Septiembre de 2007, 14:42h (#964419)

    resulta que 77.1 es uno de esos numeros que no se pueden representar exactamente en dicha notacion, asi que hay redondeos y demas que hacen que el resultado no sea totalmente exacto


    Sí, porque 77.1 expresado en base 2 es un número decimal periódico con infinitos decimales (1001101.0001100110011 etc), y por tanto no puede ser expresado de forma exacta por muchos bits de mantisa que tenga la representación en coma flotante o coma fija.

    [ Padre ]