Работа с параметрами процедур в REAL

[Игорь Столяров]

Всем привет !

Неоднократно поднималась тема передачи данных в параметрах REAL с потерей точности.
Прозвучали конкретные рекомендации. Можно я ещё раз их проговорю и покажу реализацию ?

Предположим мы хотим получить некие данные с точностью 2 и 3 знака после десятичной точки (цена и кол-во).

Код: Выделить всё

!!! Возвращает форматированное дробное число как строку
NumFormat  Procedure(Real rDigit,Byte bAccuracy = 1)  !,String
dDigit   Decimal(15,3)
  Code  
  Execute bAccuracy
    dDigit = Round(rDigit,.01)   ! 1. Цена
    dDigit = Round(rDigit,.001)  ! 2. Кол-во
  end  
  Return Clip(Left(Format(dDigit,     '@n-_15.' & Choose(bAccuracy,'2','3')     )))

Вроде бы все вызовы в стиле NumFormat(10 / 3) дают ожидаемые значения.
Это правильное решение для работы с параметрами REAL ? Спасибо !

[Губин Игорь]

Один нескромный вопрос: а почему не используете Digital?

[Игорь Столяров]

Один нескромный вопрос: а почему не используете Digital?

Что есть у нас "Digital" ? Если DECIMAL - так он может передаваться в процедуру только по адресу ...

[Губин Игорь]

Что есть у нас "Digital" ? Если DECIMAL - т

Да, виноват... Но так в процедуре можно присвоить переданное значение и обратно. Лично я так и делаю. Передаю Real, присваиваю переданное значение Decimal, а вся математика и логика работают уже на DECIMAL

[finsoftrz]

Никаких проблем при передаче параметров с real, ни по значению, ни по адресу, я не наблюдал. Что такое потеря точности?

[finsoftrz]

А, понял, прямо в вызове деление пишете. Я на автомате выражение с делением всегда в round заключаю.

[Игорь Столяров]

Никаких проблем при передаче параметров с real

Это понятно. Если есть возможность посмотреть - вот здесь я всё расписал с примерами.
Читать нужно первый пост в теме: viewtopic.php?t=5315&start=15

Ну а решение с "беcпроблемными параметрами REAL" я попробовал найти здесь.

[Игорь Столяров]

А, понял, прямо в вызове деление пишете

Не обязательно. См. первый пост в: viewtopic.php?t=5315&start=15
Подставлять всегда и везде костыль на автомате - это решение. Но если честно - так себе ...

[Губин Игорь]

А, понял, прямо в вызове деление пишете. Я на автомате выражение с делением всегда в round заключаю.

В любых операциях. Возможна ещё погрешность в логике. 0.1 > 0.999999999999...