Significant digits corner cases

[Rafael Xavier]

2015-03-16 10:02 GMT-03:00 Isaac Jurado <isaac.jurado at roiback.com>:

> 2015-03-16 13:59 GMT+01:00 Rafael Xavier <rxaviers at gmail.com>:
> >
> >
> > 2015-03-16 9:47 GMT-03:00 Isaac Jurado <isaac.jurado at roiback.com>:
> >>
> >> Hello,
> >>
> >> I'm adding some fixes to the Babel [1] Python package and I found a
> >> number formatting case that I would like to verify.
> >>
> >> The case in point is when formatting 0.0001 using the "@@@" pattern.  In
> >> the current version, the result is the string "0.000100", whereas I
> >> would had expected something like "0.0001" or even "0".
> >
> > Why do you expect the latter? "@@@" means minimum significant digits = 3
> and
> > maximum significant digits = 3...
> > http://www.unicode.org/reports/tr35/tr35-numbers.html#sigdig
>
> Well, as all examples seem to count decimal, leading, zeroes as a
> significant digits, I understood that "0.0001" already has four, which
> would be already greater than the maximum specified by the pattern.
> Hence my confusion.
>
Nope, "0.0001" has only 1 significant digit. For more info
http://en.wikipedia.org/wiki/Significant_figures

Anyway, I still think you can express your thoughts in case you think this
is poorly documented in
http://www.unicode.org/reports/tr35/tr35-numbers.html#sigdig.


> Best regards.
>
> --
> Isaac Jurado
>
>
> La información contenida en este mensaje y/o archivo(s) adjunto(s),
> enviada desde GLOBAL OBI SL, es confidencial/privilegiada y está
> destinada a ser leída sólo por la(s) persona(s) a la(s) que va dirigida.
> Le recordamos que sus datos han sido incorporados en un fichero y que
> siempre y cuando se cumplan los requisitos exigidos por la normativa,
> podrá ejercer los derechos de acceso, rectificación, cancelación y
> oposición, ante nuestra entidad.
>
> Si usted lee este mensaje y no es el destinatario señalado, el empleado
> o el agente responsable de entrega el mensaje al destinatario, o ha
> recibido esta comunicación por error, le informamos que está totalmente
> prohibida, y puede ser ilegal, cualquier divulgación, distribución o
> reproducción de esta comunicación, y le rogamos que nos lo notifique
> inmediatamente y nos devuelva el mensaje original a la dirección arriba
> mencionada. Gracias.
>



-- 
+55 (16) 98138-1582, +1 (415) 568-5854, skype: rxaviers
http://rafael.xavier.blog.br
-------------- next part --------------
An HTML attachment was scrubbed...
URL: <http://unicode.org/pipermail/cldr-users/attachments/20150316/bf64b2bd/attachment.html>