DMUG-Archiv 2003

Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

Re: Aua, numerische Ungenauigkeit ??

Hallo,

was ist an einem Fehler von Maximal 0.00000000000000003 oder
3 * 10^(-17) auszusetzen ??
Ausserdem mag es ja schon sein, das eine Zahl im Dezimalsystem
endlich viele Dezimalstellen hat, das muss aber im Bin"arsystem,
das der Rechner verwendet nicht so sein, 0.2 l"asst sich im Bin"aren
nur mit undenlich vielen Stellen darstellen, tja und wenn das Ergebnis
die 0.2 erreicht ist - welche "Uberraschung - dann auch der
Fehler ein bischen gr"osser ...

Gruss
  Jens

Winfried Bilgic wrote:
> 
> Hallo,
> 
> bei einem simplem Table Ausdruck stolperte ich über eine doch arge Ungenauigkeit:
> 
> x1 = Table[x, {x, -0.5, +0.5, 0.05}];
> x1 // TableForm
> 
> kam das heraus:
> -0.5
> -0.45
> -0.4
> -0.35
> -0.3
> -0.25
> -0.19999999999999998
> 
> -0.09999999999999998
> -0.049999999999999975
> 2.7755575615628914e-17
> 0.05000000000000003
> 0.10000000000000003
> 0.15000000000000002
> 0.20000000000000004
> 0.25000000000000006
> 0.30000000000000004
> 0.35000000000000003
> 0.4,
> 0.45000000000000007
> 0.5
> 
> Damit kann ich mich eigentlich so gar nicht anfreunden :S Benutze einen Mac G4, was macht der
> Table Ausdruck bei Euch ?
> 
> Winn
> ________________________________________________________________
> Mit der Grupppen-SMS von WEB.DE FreeMail können Sie eine SMS an alle
> Freunde gleichzeitig schicken: http://freemail.web.de/features/?mc=021179


Antworten:
Verweise:
Frühere   Chronologischer Index   Spätere
Vorherige   Thematischer Index   Nächste

DMUG DMUG-Archiv, http://www.mathematica.ch/archiv.html