Précision surprise

Ici, on fait dans le petit, le LCD qui déchire sa race, on y cause même calculatrices quand on est en manque !

Modérateur : Politburo

Répondre
Avatar du membre
gege
Fonctionne à 14400 bauds
Fonctionne à 14400 bauds
Messages : 7147
Enregistré le : 31 janv. 2008 14:24
Localisation : Banlieue Paârisienne
Contact :

Précision surprise

Message par gege »

Bonjour,
Ce soir en farfouillant voilà que je tapote sur une machine récente, une Citizen SR270-College...
Donc, hop
1/7-0.142857142857
Et là !!!!!!!
Elle me répond froidement
1.428571429E-13
La vache !
Donc je réplique :
1/7-0.142857142857-1.42857142E-13
Et la coquine répond benoîtement
8.572457614E-22
Ça fait quand même 24 chiffres exacts !
Bien joué...
G.E.
Avatar du membre
Hobiecat
Fonctionne à 9600 bauds
Fonctionne à 9600 bauds
Messages : 3636
Enregistré le : 06 sept. 2011 14:57
Localisation : Normandie

Re: Précision surprise

Message par Hobiecat »

En regardant bêtement sur la "calculatrice scientifique" de mon smartbidule, je découvre avec le même genre de calcul, que la précision est sur 32 chiffres significatifs... Ils sont fous ! :mrgreen:
Tipoucet
Fonctionne à 9600 bauds
Fonctionne à 9600 bauds
Messages : 3805
Enregistré le : 10 janv. 2009 13:47

Re: Précision surprise

Message par Tipoucet »

Ce doit être une jumelle de la Canon F-720i qui a aussi 24 chiffres exacts. Par contre j'avais aussi une Citizen SR-270X Collège (donc avec un "X" en plus) et elle n'avait que 16 chiffres.
Dominique
Répondre

Retourner vers « Tous les Pockets »