Significant digits corner cases

[Isaac Jurado]

2015-03-16 15:56 GMT+01:00 Rafael Xavier <rxaviers at gmail.com>:
>
>
> 2015-03-16 10:02 GMT-03:00 Isaac Jurado <isaac.jurado at roiback.com>:
>>
>> 2015-03-16 13:59 GMT+01:00 Rafael Xavier <rxaviers at gmail.com>:
>> >
>> >
>> > 2015-03-16 9:47 GMT-03:00 Isaac Jurado <isaac.jurado at roiback.com>:
>> >>
>> >> Hello,
>> >>
>> >> I'm adding some fixes to the Babel [1] Python package and I found a
>> >> number formatting case that I would like to verify.
>> >>
>> >> The case in point is when formatting 0.0001 using the "@@@" pattern.
>> >> In
>> >> the current version, the result is the string "0.000100", whereas I
>> >> would had expected something like "0.0001" or even "0".
>> >
>> > Why do you expect the latter? "@@@" means minimum significant digits = 3
>> > and
>> > maximum significant digits = 3...
>> > http://www.unicode.org/reports/tr35/tr35-numbers.html#sigdig
>>
>> Well, as all examples seem to count decimal, leading, zeroes as a
>> significant digits, I understood that "0.0001" already has four, which
>> would be already greater than the maximum specified by the pattern.
>> Hence my confusion.
>
> Nope, "0.0001" has only 1 significant digit. For more info
> http://en.wikipedia.org/wiki/Significant_figures

Right.  Makes more sense that way O:-]

> Anyway, I still think you can express your thoughts in case you think
> this is poorly documented in
> http://www.unicode.org/reports/tr35/tr35-numbers.html#sigdig.

I already saw that.  What I was missing is the knowledge of the basic
concepts (e.g. significant digit).

Thanks for the information.  Best regards.

-- 
Isaac Jurado


La información contenida en este mensaje y/o archivo(s) adjunto(s),
enviada desde GLOBAL OBI SL, es confidencial/privilegiada y está
destinada a ser leída sólo por la(s) persona(s) a la(s) que va dirigida.
Le recordamos que sus datos han sido incorporados en un fichero y que
siempre y cuando se cumplan los requisitos exigidos por la normativa,
podrá ejercer los derechos de acceso, rectificación, cancelación y
oposición, ante nuestra entidad.

Si usted lee este mensaje y no es el destinatario señalado, el empleado
o el agente responsable de entrega el mensaje al destinatario, o ha
recibido esta comunicación por error, le informamos que está totalmente
prohibida, y puede ser ilegal, cualquier divulgación, distribución o
reproducción de esta comunicación, y le rogamos que nos lo notifique
inmediatamente y nos devuelva el mensaje original a la dirección arriba
mencionada. Gracias.