SetPrecision

Disponible

Sets the precision of a number to a specified number of digits

Formes

SetPrecision[expr, p]

Exemples vérifiésSetPrecision[2.1, 20] → 2.10000000000000008881784197001252323389`20.SetPrecision[a + 2 b + 3 c, 20] → a + 2.`20.*b + 3.`20.*c SetPrecision[a + 2 b + 3c, MachinePrecision] → a + 2.*b + 3.*c

Exécuter sur Qurak Rechercher dans la référence

Thèmes

Precision And Accuracy Control - Machine Numbers

Connexes

N Precision Chop SetAccuracy PrecisionGoal Rationalize Accuracy AccuracyGoal MachineNumberQ MachinePrecision WorkingPrecision

Les 6300 fonctions · Utiliser ceci depuis un client MCP