Forum Notenmanager

Normale Version: Gewichtung Typumwandlungsfehler?
Du siehst gerade eine vereinfachte Darstellung unserer Inhalte. Normale Ansicht mit richtiger Formatierung.
Hallo Stephan,

ich habe heute einen seltsamen Effekt gesehen.

Ein Kollege möchte Noten mit der Gewichtung 0,4 erstellen. Diese Gewichtung kommt reproduzierbar in der pg-DB als 0,40000xxx (die genauen Nachkommastellen kann ich jetzt nicht mehr sagen) an.

Bei 0,3 oder 0,5 passiert dieser Effekt nicht. Rechnerisch ist das jetzt unproblematisch, aber es sieht sehr wild auf den Leistungsbilanzen aus, da die ganzen Nachkommastellen ausgegeben und durch Platzmangel unlesbar werden.

Ich habe jetzt die entsprechenden Gewichtungen in der DB direkt gesetzt und dann passt das auch. Allerdings ist der Effekt doch verblüffend. Meine Vermutung wäre jetzt irgendein Typumwandlungsfehler beim Update in die DB?

Gruß

Michael
Ja, das ist eine kleine VB-6 Schwäche. Bin nie dazu gekommen, dass zu beheben, da es ständig wichtigeres gab und die Kollegen in der Regel die Gewichtungen mit 1, 0,5, 0,3, 0,25, ... haben. 0,4 oder 0,6 (da kann der Fehler auch auftreten) sind dann doch eher selten.

Gruß
Stephan