Tag: floating-point

Les nombres à virgule flottante sont des approximations de nombres réels qui peuvent représenter une plus grande portée que les entiers, mais utiliser la même quantité de mémoire, le coût de la baisse de précision. Si votre question est sur les petites erreurs de calcul (par exemple, pourquoi ne 0.2 + 0.1 égal 0.300000001?) ou décimal erreurs de conversion, veuillez lire la page « info » en lien ci-dessous avant de poster.

Javascript flotteur de comparaison

comparison floating-point javascript numbers

Erreur avec EXPECT_EQ pour la somme de double ou float

c++floating-point googletest unit-testing

PHP float erreur de calcul lors de la soustraction

floating-point formatting math php

PHP Convertir une Chaîne en un Float/Double

floating-point implicit-conversion php string

Haskell: Comment analyser un IO chaîne d'entrée dans un Flotteur (ou Int ou autre)?

floating-point haskell input io parsing

Numpy float64 vs Python flotteur

floating-point numpy python

Nombre de chiffres significatifs pour un type à virgule flottante

c floating-point floating-point-conversion

C# Conversion d'une chaîne de caractères contenant une virgule flottante pour un entier

c#floating-point int parsing

Comment définir la précision d'un flotteur

c floating-point precision

SQL AVG en retournant un int

average casting floating-point sql

1e-9 ou -1e9, laquelle est la bonne?

c++exponential floating-point math notation

Affichage de la valeur float w/o la notation scientifique

floating-point php

Pourquoi est-BigDecimal retour d'un bizarre de la valeur?

bigdecimal floating-point ruby

Pourquoi dois-je obtenir un FormatException lors de la conversion d'une chaîne à une variable?

c#exception floating-point string

La taille des int et float

c floating-point floating-point-conversion integer

En virgule flottante Double précision dans CUDA

cuda floating-point gpgpu gpu

Java, impossible de convertir l'Objet de Flotter...pourquoi?

casting floating-point java

Convertir la norme ieee 754 flotteur à l'hex avec c - printf

c floating-point ieee-754

C de la Fonction de Convertir flotteur de tableau d'octets

arduino bytearray c casting floating-point

NSNumber de CGFloat

cgfloat floating-point nsnumber objective-c

La façon de sortie avec 3 chiffres après la virgule avec C++ stream?

c++floating-point iostream

Est-il sécuritaire de reinterpret_cast un entier pour flotter?

c++casting floating-point

Pourquoi voudriez-vous d'utiliser float double ou double sur de longues double?

c++double floating-point long-double

Virgule flottante Valeur Binaire(C++)

binary c++floating-point ieee-754

C# obtenir des chiffres de variable de type float

.net c#floating-point

Joliment représente un nombre à virgule flottante en python

floating-point python representation significant-digits

Chaîne de caractères.format utilise la virgule au lieu du point

android android-edittext floating-point

Flotteur vs Double

c floating-point java

Fonction de hachage pour les flotteurs

c++floating-point hash-function hashtable

Quelle est la différence entre “1.0 f” et “1.f”?

c++conventions floating-point

Ce qui arrive à une variable de type float lors de %d est utilisé dans un printf?

c floating-point printf

C++ Flotteur de la Division et de la Précision

c++floating-point math

Comment obtenir la norme IEEE 754 représentation binaire d'un float en C#

binary c#floating-point ieee-754

Division entière dans awk

awk division floating-point integer

Imprimer un flotteur avec précision justifiée à droite

floating-point printing python string

Comment définir la précision en virgule flottante en Perl?

floating-accuracy floating-point perl

javascript - plafond d'un montant en dollars

ceiling floating-point javascript math

Comment effectuer des arrondis avec des nombres à virgule flottante

binary floating-point rounding

Modifier le format d'impression flottant par défaut

floating-point python python-3.x string-formatting

Différence entre sqrt et sqrtf

c++floating-point

Quadruple Précision en C ++ (GCC)

c++floating-point gcc quadruple-precision

Pad python flotte

floating-point pad python zero

Tronquer un flotteur et un double en java

double floating-point java truncate

Nombres dénormalisés - IEEE 754 Floating Point

floating-point ieee-754 performance standards

Comment utiliser Gcc 4.6.0 libquadmath et __float128 sur x86 et x86_64

128bit floating-point floating-point-precision gcc quad

Signe d'un nombre à virgule flottante

c++floating-point signedness

Formater un double et ne pas arrondir

double floating-point java

Java: octets aux flotteurs / ints

bytearray casting floating-point integer java

Lire les flottants à partir d'un fichier .txt

c++file floating-point text

Zéro négatif en C

c floating-point

1
2
3
4
5
6
7
8
9