Thema Datum  Von Nutzer Rating
Antwort
01.07.2011 10:25:08 Edward
NotSolved
Blau Problems with floating-point number
 01.07.2011 15:10:08 Holger
NotSolved

Ansicht des Beitrags:
Von:
Holger		 Datum:
01.07.2011 15:10:08		 Views:
748		 Rating:
     
Antwort:
  Ja
Thema:
Problems with floating-point number

Dear Edward,

single-types have 32 bits, double-types 64 bits exactness. The problem could improve, if you change the type, but it will not vanish. If you develop 0.00083 into a sum of powers of 2, you will find that the sum doesn't end. As a possible solution I recommend to use Round(Cells(...),6).

 

Ihre Antwort
  • Bitte beschreiben Sie Ihr Problem möglichst ausführlich. (Wichtige Info z.B.: Office Version, Betriebssystem, Wo genau kommen Sie nicht weiter)
  • Bitte helfen Sie ebenfalls wenn Ihnen geholfen werden konnte und markieren Sie Ihre Anfrage als erledigt (Klick auf Häckchen)
  • Bei Crossposting, entsprechende Links auf andere Forenbeiträge beifügen / nachtragen
  • Codeschnipsel am besten über den Code-Button im Text-Editor einfügen
  • Die Angabe der Emailadresse ist freiwillig und wird nur verwendet, um Sie bei Antworten auf Ihren Beitrag zu benachrichtigen
Thema: Name: Email:



  • Bitte beschreiben Sie Ihr Problem möglichst ausführlich. (Wichtige Info z.B.: Office Version, Betriebssystem, Wo genau kommen Sie nicht weiter)
  • Bitte helfen Sie ebenfalls wenn Ihnen geholfen werden konnte und markieren Sie Ihre Anfrage als erledigt (Klick auf Häckchen)
  • Bei Crossposting, entsprechende Links auf andere Forenbeiträge beifügen / nachtragen
  • Codeschnipsel am besten über den Code-Button im Text-Editor einfügen
  • Die Angabe der Emailadresse ist freiwillig und wird nur verwendet, um Sie bei Antworten auf Ihren Beitrag zu benachrichtigen

Thema Datum  Von Nutzer Rating
Antwort
01.07.2011 10:25:08 Edward
NotSolved
Blau Problems with floating-point number
 01.07.2011 15:10:08 Holger
NotSolved