Разрядность float

MapInfo, MapBasic
Ответить
pogoreli
Новоприбывший
Сообщения: 11
Зарегистрирован: 03 мар 2009, 09:24
Репутация: 0

Разрядность float

Сообщение pogoreli » 13 ноя 2010, 13:41

Использую функцию massiv(i) = ObjectNodeX(jObj,1,i) в цикле, она возвращает почему-то только округленные координаты узлов полигона, т.е. знаков после запятой требуется 6, а она от балды то 2-3 знака округляет, как повысить разрядность в этой операции, решение возможно и простое. только додуматься не могу Спасибо.?

Boris
Гуру
Сообщения: 4231
Зарегистрирован: 10 апр 2006, 22:34
Репутация: -344969098
Откуда: Париж

Re: Разрядность float

Сообщение Boris » 13 ноя 2010, 22:18

использовать функцию Format; с максимальной жадностью к количеству разрядов. На пример вот так
Format$( 1/3, "########0.000000000000000#########" )
Будете получать текст, но с требуемой точностью. В действительности же, если храните данные в переменной типа float, то там все разряды есть.

Ответить

Вернуться в «MapInfo»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 4 гостя