Разрядность float

MapInfo, MapBasic
Ответить
pogoreli
Новоприбывший
Сообщения: 11
Зарегистрирован: 03 мар 2009, 09:24
Репутация: 0

Разрядность float

Сообщение pogoreli »

Использую функцию massiv(i) = ObjectNodeX(jObj,1,i) в цикле, она возвращает почему-то только округленные координаты узлов полигона, т.е. знаков после запятой требуется 6, а она от балды то 2-3 знака округляет, как повысить разрядность в этой операции, решение возможно и простое. только додуматься не могу Спасибо.?
Boris
Гуру
Сообщения: 4231
Зарегистрирован: 10 апр 2006, 22:34
Репутация: -344969098
Откуда: Париж

Re: Разрядность float

Сообщение Boris »

использовать функцию Format; с максимальной жадностью к количеству разрядов. На пример вот так
Format$( 1/3, "########0.000000000000000#########" )
Будете получать текст, но с требуемой точностью. В действительности же, если храните данные в переменной типа float, то там все разряды есть.
Ответить

Вернуться в «MapInfo»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 3 гостя