DMUG-Archiv 2006

Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

RE: Auf n gültige Ziffern runden?

Noch ein Zusatz speziell für Linux-User !

Ich habe gerade das von mir zuletzt versandte Notebook 

(exam_2a.nb)

RoundTo[x_, n_] :=Module[{e, d}, 
    e=RealDigits[x];
    d=n-e[[2]];
    N[(SetPrecision[Round[x/(10^(e[[2]]-n))]/10^d,$MachinePrecision]),n]] 

RoundTo[1257.12474124895621,3]
RoundTo[0.00461293,3]
 

Unter Linux (SuSE 9.0) getestet, leider muß man dort folgende Änderung
vornehmen:

RoundTo[x_, n_] :=Module[{e, d}, 
    e=RealDigits[x];
    d=n-e[[2]];
    (SetPrecision[Round[x/(10^(e[[2]]-n))]/10^d,$MachinePrecision])] 

RoundTo[1257.12474124895621,3]
RoundTo[0.00461293,3]

(exam_3.nb -> siehe Anhang)

Das in exam_2b.nb verwandte N[?,n] sollte die Nullen am Ende abschneiden,
was unter Linux zu einer Rundung auf zwei Nachkommastellen führt.


Die Version in exam_3.nb Funktioniert nun einwandfrei, sowohl unter Windows
als auch Linux.


Mit freundlichen Grüßen

[André El-Ama]


Attachment: exam_3.nb
Description: Mathematica Notebook document

Antworten:
Verweise:
Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

DMUG DMUG-Archiv, http://www.mathematica.ch/archiv.html