Przepełnienie zmiennej

[71tomek]

V1040
W formule jak w zał.mnożę ML104 przez 10000 (ML18) i dzielę przez 10000 (pomińmy sens tej operacji). Przy wartości 214748 następuje przepełnienie zmiennej ML101 (przechodzi w minus). Czy jest to spowodowane tym, że jakaś zmienna pomocnicza formuły przepełnia się przy mnożeniu A*B i przekracza 2147483647?

[Mateusz Sikorski]

Witam,

dokładnie, tak. Przy mnożeniu wartości 214748 przez 10000 wychodzi wartość 21 474 800 000. Wartość ML przyjmuje wartości od −2 147 483 648 do 2 147 483 647. Widać gołym okiem, że wartości, którą Pan otrzymuje w bloku FORMULA wykracza poza zakres zmiennej. Po przekroczeniu zakresów wynik operacji jest nie do przewidzenia, dlatego pokazuje Panu taką wartość.

[71tomek]

Wydaje mi się, że 214748 X 10 000 jest 2147480 000 i same zmienne w formule (ML104, ML101, ML18) nie przekraczają wartości 2147483648. Sądzę, że to bruździ (przepełnia się) jakaś zmienna pośrednia, w której sterownik zapisuje sobie pośredni wynik operacji mnożenia ML104 x ML18 (10000) przed podzieleniem przez 10000... Możliwe to?

[Mateusz Sikorski]

Witam,
faktycznie, dodałem o jedno 0 za dużo. Sprawdziłem Pański przykład na V1040 i u mnie formuła działa w prawidłowy sposób - nie powinno przepełniać rejestru (przeskakiwać na wartość ujemną) przed końcem zakresu. Proszę o informację, jakiej wersji VisiLogic Pan używa oraz jaka wersja OS jest wgrana do sterownika V1040.

[71tomek]

Proszę wrzucić jeszcze do ML0 214749 dla pewności. VL 9.8.31 a dane dotyczące OS podam jutro.

[Mateusz Sikorski]

Wtedy wartość wyjściowa wynosi -214747 i jest to zgodne z tym, co napisałem o zakresach. Proszę wgrać najnowsze oprogramowanie ze strony producenta i wgrać najnowszy OS, tak jak ja to zrobiłem na swoim sterowniku, który jak widać na obrazku w poprzedniej wiadomości przelicza wartości w poprawny sposób.