SetPrecision

Verfügbar

Sets the precision of a number to a specified number of digits

Formen

SetPrecision[expr, p]

Verifizierte BeispieleSetPrecision[2.1, 20] → 2.10000000000000008881784197001252323389`20.SetPrecision[a + 2 b + 3 c, 20] → a + 2.`20.*b + 3.`20.*c SetPrecision[a + 2 b + 3c, MachinePrecision] → a + 2.*b + 3.*c

Auf Qurak ausführen Referenz durchsuchen

Themen

Precision And Accuracy Control - Machine Numbers

Verwandt

N Precision Chop SetAccuracy PrecisionGoal Rationalize Accuracy AccuracyGoal MachineNumberQ MachinePrecision WorkingPrecision

Alle 6300 Funktionen · Dies aus einem MCP-Client verwenden