Kommastellen im Excelexport

  • Moin ich stehe gerade etwas auf dem Schlauch.

    Ich scheine mir irgendwo beim Excel Export einen Fehler einzubauen. Siehe folgendes Testprogramm:


    test = Rampe(0, 0.01,100) ;Rampe erzeugen 101 Werte von 0-1 in 0,01er Schritten

    ID = FileOpenXLS2(Pfad, "Testvorlage", 2, 1, 1) ;Datei Öffnen und an Zeile1/Spalte1 beschreiben

    FileObjWrite(ID,test) ;Daten Schreiben

    Fileclose(ID)


    Im Export kommt jedoch folgendes raus:

    0

    0,00999999977648258

    0,0199999995529652

    ...

    ...

    ...

    0,980000019073486

    0,990000009536743

    1


    Hat jemand ne Idee wo das herkommt?

    Die eigentliche Problematik ist eine Auswertesequenz die mir aus z.b. 12,8 nachvollziehbar 12,80000019 exportiert.

    Das ist natürlich meinem Kunden aufgefallen und der glaubt mir jetzt nicht dass meine Messwerte bis auf die 8te Nachkommastell gleich sein sollen

    (Sind sie ja auch nicht, der Wert sollte 12,8 sein)

  • Hallo litle,


    ich glaube es liegt bei dir an der Einstellung der Datentyps für das berechnete Ergebnis.

    Schau mal unter Optionen/Funktionen und dann im mittleren Bereich auf "Datentyp Ergebnis". Hier sollte der Radiobutton auf Automatisch stehen. Ich vermute bei dir ist Float (Reel 4 Byte) aktiv. Das war bis FAMOS 7.xx die Defaultvorgabe nach der Installation.

    Steht das Ergebnis "hart" auf Float gibts noch viel mehr "tolle" Ergebnisse.




    Gruß

    Wolfgang

  • Die Frage ist doch auch, was bei Excel eingestellt ist. Also wie viele Nachkommastellen hier angezeigt werden.

    Ansonsten stimmt es schon, dass durch die Auflösung nun mal mehrere Nachkommastellen hinzukommen.


    "meine Messwerte bis auf die 8te Nachkommastell gleich sein"

    Warum sollte das nicht der Fall sein?

    Es geht doch nur um eine Zahlendarstellung bzw. eine Analog-Digital-Umsetzung.


    Konkret betrachtet werden unendlich viele Messwerte (in einem kleinen Bereich) in den gleichen Messwert dargestellt bzw. "umgewandelt", weil einfach nicht "feiner" aufgelöst werden kann.

  • Hallo Wolfgang,


    Ich bin etwas spät dran, möchte dir aber trotzdem nochmal Danke sagen! Du hattest mit deiner Vermutung 100%ig recht.