forum.clarionlife.net

Чудеса в решете. Стоп показывает, что значение переменной = 2.3, но при сравнении вылетает. Т.е. VarReal$ < 2.3

VarReal$ = 2.3
DO SetRtn

SetRtn ROUTINE
stop(VarReal$)
if VarReal$ < 2.3 then exit.

...

А покажи в STOP так FORMAT(varReal$,@N10.5) !?
Какой то бред по похожей теме был...

Real надо сравнивать на разницу значения меньше некой дельты. Ну скажем (VarReal$ - 2.3) < 0.00005

Real ваще нельзя сравнивать.

В обще случае следует конечно избегать сравнения real, но если идут скажем идут геодезические вычисления (тригонометрия), то приходиться делать это!

почему не DECIMAL?

ну уж не помню почему - это было лет 15 назад

Всем спасибо! Чтобы не заморачиваться воспользовался советом seawolf

seawolf писал(а):Real надо сравнивать на разницу значения меньше некой дельты. Ну скажем (VarReal$ - 2.3) < 0.00005

Да я тупой. Все равно не понимаю.
Риторический вопрос: Если это не результат от деления то какого хрена?

Поскольку в компьютерах используется двоичная форма представления данных, число 2.3 будет выражено в виде периодической двоичной дроби, строго говоря, бесконечной длины. 8-байтное плавающее на x86 даёт возможность 52 двоичных (15-16 десятичных) знака. Таким образом, число может слегка отличаться от правильного значения, начиная с 15 знака.

Я запустил интерпретатор Python (там такие же плавающие) и вычислил

>> print(2.3 - 2)
>>0.299999999999999998

>>(2.3-2) == 0.3
>>false

>> print(2.3-2-0.3)
>> -1.6653345369377348e-16
По-моему, всё ясно

Кстати...

Real надо сравнивать на разницу значения меньше некой дельты. Ну скажем (VarReal$ - 2.3) < 0.00005

Конечно, Abs(VarReal$-2.3) ...

Добрый день!

Ну, да. Плавающая точка никогда не хранила и не хранит целых значений.
Кстати: про это надо помнить, когда у Вас объявлено поле real в базе.
И вдруг вылетает лихое сообщение, типа:
"Запись была изменена другой станцией"
хотя никто больше с базой не работает.


Алексей

Т.е. четко 2.30000000 записать в REAL нет возможности?
Понятно. Запомним.

Замените VarReal$ на LOC:VarReal и будет Вам счастье. И старайтесь не использовать Implicit Variables.

При сравнении real надо использовать round. То есть типа round(VarReal$ - 2.3,0.000001)=0. И все будет пучком