Notenberechnung - Druckversion +- Forum Notenmanager (https://forum.notenmanager.net) +-- Forum: Schulversion (https://forum.notenmanager.net/forumdisplay.php?fid=22) +--- Forum: Berichte SV (https://forum.notenmanager.net/forumdisplay.php?fid=14) +--- Thema: Notenberechnung (/showthread.php?tid=724) |
Notenberechnung - mbw-admin - 07.07.2006 Hallo, ein seltsames Phänomen: Bei der Notenberechnung (am Gymnasium festgestellt) ergibt sich reproduzierbar: Einzelnoten (nur mündlich): 1 1 2 2 3 -1 3 1 2 2 Kopfrechnen: 18 : 10 = 1,80 Notenmanni: OM = 1,79, O = 1,78 Wo steckt das Hundertstel von den Einelnoten zum Schnitt mündlich und noch mal das Hundertstel von mündlichen Schnitt zum Gesamtschnitt ? - NM-Himself - 07.07.2006 danke für den hinweis. als mathematiker ist man halt immer wieder von den rechenkünsten der programmiersprache visual basic überrascht. schon sehr viel früher musste ich erkennen, dass 2,5 gerundet 2 ergibt, aber 3,5 auf 4 aufgerundet wird. und jetzt das: offensichtlich ist 18/10 nicht generell 1,8 :!: rechnet man auf 16 bit genau, ist es nur 1,79. erst bei einer genauigkeit von 64 bit bekommt man das allseits bekannte ergebnis. ich hab entsprechende änderungen vorgenommen, der fehler ist dann beim nächsten update behoben. gruß stephan |