Re: Table Import: Precision

["Jens-Peer Kuska" <kuska@XXXXXXX.de>]

Hallo,

nun also, das ist ja recht schockierend ...

Da wird eine Matrix eingelesen, die InputForm[] die sich Ulrich Schwarz anzeigen läßt, zeigt auch, das dies mit der 
originalen Genauigkeit passiert und
dennoch, und Nichts desto Trotz wundert sich Ulrich Schwarz

"Wieviele Stellen nimmt Mathematica jetzt beim Import mit?"

Um das ganze noch grausamer zu machen muß man lesen "Seltsamerweise auch dann, wennich die Zahl kopiere und noch einmal 
eingebe:"
t = 3.141592653589793`

Tja also, wenn eine $MachinePrecision Gleitkommazahl *ausgedruckt* wird, wird sie für die Ausgabe gerundet, bei einer 
Hochpräzisionszahl passiert das nicht, folglich

wird

t = 3.141592653589793`

als "3.14159" ausgegeben, während 

SetPrecision[t, 30]

als "3.14159265358979311599796346854" ausgeschrieben wird. Genauso unklar ist, wieso Ulrich Schwarz nicht auf die Idee 
kommt,  mit

Map[Precision, A, {2}]

einfach zu schauen welche Präzision die Daten haben ??? wenn schon der InputForm[] kein Glauben geschenkt wird ...

Wäre das alles nicht schon schlimm genug, so muß man auch noch lesen: 

"Was ist der Mechanismus, der N[...] auf weniger Stellen begrenzt, als die Zahl zu haben scheint."

nun, also das ist gänzlich neu, da N[] *nie* dazu führt, das die Zahl weniger als $MachinePrecision Stellen besitzt ...

Gruß

  Jens



  ----- Original Message ----- 
  From: uli schwarz 
  To: demug@XXXXXXX.ch 
  Sent: Saturday, April 30, 2005 4:28 PM
  Subject: Table Import: Precision


  Hallo, 

  beim Importieren von Daten 

  A = Import["matrix.dat", "Table"] 

  scheint die Werte auf sechs Nachkommastellen begrenzt zu werden: 

  N[A[[1, 1]], 10] 
  3.14159 

  auch wenn in "matrix.dat" die Zahlen mit höherer Präzision angegeben sind. Ein Notebook mit Beschreibung liegt bei 
(und die Datei matrix.dat). Wo liegt der Denkfehler? Was ist der Mechanismus, der N[...] auf weniger Stellen begrenzt, 
als die Zahl zu haben scheint. 

  Vielen Dank, 
  Uli Schwarz 



  PD Dr. Ulrich T. Schwarz
  Institute for Experimental and Applied Physics
  University of Regensburg
  93040 Regensburg, Germany
  Tel: (++49) 941-943 2113
  http://homepages.uni-regensburg.de/~scu04188