DMUG-Archiv 2001

Frühere		Chronologischer Index		Spätere
Vorherige		Thematischer Index		Nächste

Antwort: ganz einfach, sehr eigenartig => f[h_, dh_] = Floor[N[h/dh]]

From: Rasmus Debitsch <debitsch@XXXXXXX.de>
Subject: Antwort: ganz einfach, sehr eigenartig => f[h_, dh_] = Floor[N[h/dh]]
Date: 15 Mar 2001 08:31:15 +0100
To: Klamser <Klamser@XXXXXXX.de>
Cc: dmug <dmug@XXXXXXX.ch>
Alternate-recipient: Allowed
Conversion: Allowed
Disclose-recipients: Prohibited
Original-encoded-information-types: (1)(0)(10021)(7)(1)(0)(1), (1)(0)(10021)(7)(1)(0)(6), (1)(0)(10021)(7)(1)(0)(100)
X400-content-type: P2-1988 ( 22 )
X400-mts-identifier: [/c=de/admd=DBP/prmd=Zeiss/; 06F493AB06FC3006-SZJMTA]
X400-originator: debitsch@zeiss.de
X400-received: by mta SZJMTA in /c=de/admd=DBP/prmd=Zeiss/; Relayed; 15 Mar 2001 08:31:15 +0100
X400-received: by /c=de/admd=DBP/prmd=Zeiss/; Relayed; 15 Mar 2001 08:31:15 +0100
X400-recipients: non-disclosure;

Hallo,

das ist wohl der Zauber der Computerarithmetik. 

Wenn man 0.09/(0.09*0.5) - 2 auswertet, kommt bei mir -2.22045e-16 raus. Ich rechne mit Mathematica 4.1 auf einer 
WindowsNT Maschine. Das Floor rechnet dann schon richtig 1 aus. Bei der Definition der Funktion F wird man diese 
Effekte berücksichtigen müssen - insbesondere wenn man bewußt mit Fließkommazahlen (N[...]) arbeitet.

Mit freundlichen Grüßen
         
          Rasmus Debitsch
          HL-MT
          Carl Zeiss
          Carl Zeiss Strasse
          D-73447 Oberkochen
          
          Tel. ++49 (7364) 20-3966
          Fax. ++49 (7364) 20-2109

Frühere		Chronologischer Index		Spätere
Vorherige		Thematischer Index		Nächste

DMUG-Archiv, http://www.mathematica.ch/dmug-liste.html; Letzte Änderung: 19.04.2004 18:20