Форумы GIS-Lab.info

Столкнулся с проблемой очень низкой точности возвращаемых координат точки, где используется некий инструмент (Сommandinfo(CMD_INFO_X)). Есть соображения, как ее увеличисть? хотя бы до 6ти знаков после запятой вместо 4х

А если попробовать перед взятием координат изменить масштаб отображения? На более крупный

Думаю что это либо собьет координаты, либо MI грохнется.
Когда, если не секрет, возникают такие точности, что 4-х знаков после запятой не хватает?
И откуда появляется мысль, что MI сама хранит эти данные точнее? Правило одной двух миллиардной никто не отменял.

Boris писал(а):Думаю что это либо собьет координаты, либо MI грохнется.
Когда, если не секрет, возникают такие точности, что 4-х знаков после запятой не хватает?
И откуда появляется мысль, что MI сама хранит эти данные точнее? Правило одной двух миллиардной никто не отменял.

тоже сталкивался с такой проблемой. MI в информации об объекте показывает 6 знаков после запятой, а в таблицу удается вытащить координаты только до 4-х знков.

Andrew писал(а): тоже сталкивался с такой проблемой. MI в информации об объекте показывает 6 знаков после запятой, а в таблицу удается вытащить координаты только до 4-х знков.

Это проблема получения информации об объекте в запросе или то же команды Commandinfo()?

Boris писал(а):

Andrew писал(а): тоже сталкивался с такой проблемой. MI в информации об объекте показывает 6 знаков после запятой, а в таблицу удается вытащить координаты только до 4-х знков.

Это проблема получения информации об объекте в запросе или то же команды Commandinfo()?

любая функция MapBasic, которая вытаскивает координаты, делает это до четвертого знака.

А как вы смотрите вещественные числа? Я к тому, что не забывайте их форматировать правильно при выводе, например, так:
Format$(X,"#.################")
Увидите, что там наверняка больше 4-6 знаков

Cancer писал(а):А как вы смотрите вещественные числа? Я к тому, что не забывайте их форматировать правильно при выводе, например, так:
Format$(X,"#.################")
Увидите, что там наверняка больше 4-6 знаков

О, чудо!
Правда, больше 6ти знаков выдоить не удалось, но есть подозрения, что эту точность можно повысить, если ограничить размеры карты. Что-то подобное было в справке. Хотя, это уже не имеет смысла.

Это неявное приведение типов однажды загонит в могилу. Благодарю!