Grenze für mathematische Operationen


#1

Hallo Florian!

Wie hoch dürfen die Zahlen bei mathematischen Opetationen sein, um keinen Überlauf zu erzeugen? 2^32? Ich habe in einer Exportkonfiguration folgendes:

$div($div($mul(%_total_size_raw%, 8), 1000), %_total_time_raw%)

%_total_size_raw% liefert 1.833.179.586
%_total_time_raw% liefert 93.610

Das Ergebnis ist 19 anstatt ~154.

Gruß
Sebastian

Edit: Ich habe die Formel in $mul($div($div(%_total_size_raw%, %_total_time_raw%), 1000), 8) geändert damit die Zahlen nicht so groß werden.


#2

Hallo Sebastian!

Die Grenze ist momentan (2^31)-1

Ich werde mal sehen, ob ich statt signed int32 auch signed int64 verwenden kann.

Viele Grüße,
~ Florian