07.07.2006, 16:22
danke für den hinweis. als mathematiker ist man halt immer wieder von den rechenkünsten der programmiersprache visual basic überrascht. schon sehr viel früher musste ich erkennen, dass 2,5 gerundet 2 ergibt, aber 3,5 auf 4 aufgerundet wird. 
und jetzt das: offensichtlich ist 18/10 nicht generell 1,8 :!: rechnet man auf 16 bit genau, ist es nur 1,79. erst bei einer genauigkeit von 64 bit bekommt man das allseits bekannte ergebnis.
ich hab entsprechende änderungen vorgenommen, der fehler ist dann beim nächsten update behoben.
gruß
stephan
und jetzt das: offensichtlich ist 18/10 nicht generell 1,8 :!: rechnet man auf 16 bit genau, ist es nur 1,79. erst bei einer genauigkeit von 64 bit bekommt man das allseits bekannte ergebnis.
ich hab entsprechende änderungen vorgenommen, der fehler ist dann beim nächsten update behoben.
gruß
stephan
RSS-Feed mit aktuellen Informationen über Updates, Änderungen in der Programmbedienung und anderen wichtigen Mitteilungen unter http://www.notenmanager.net/feeds/Notenmanager.xml