Страница 1 из 1

Разрядность float

Добавлено: 13 ноя 2010, 13:41
pogoreli
Использую функцию massiv(i) = ObjectNodeX(jObj,1,i) в цикле, она возвращает почему-то только округленные координаты узлов полигона, т.е. знаков после запятой требуется 6, а она от балды то 2-3 знака округляет, как повысить разрядность в этой операции, решение возможно и простое. только додуматься не могу Спасибо.?

Re: Разрядность float

Добавлено: 13 ноя 2010, 22:18
Boris
использовать функцию Format; с максимальной жадностью к количеству разрядов. На пример вот так
Format$( 1/3, "########0.000000000000000#########" )
Будете получать текст, но с требуемой точностью. В действительности же, если храните данные в переменной типа float, то там все разряды есть.