MapBasic Commandinfo()

[jbob]

Столкнулся с проблемой очень низкой точности возвращаемых координат точки, где используется некий инструмент (Сommandinfo(CMD_INFO_X)). Есть соображения, как ее увеличисть? хотя бы до 6ти знаков после запятой вместо 4х

[empirik]

А если попробовать перед взятием координат изменить масштаб отображения? На более крупный

[Boris]

Думаю что это либо собьет координаты, либо MI грохнется.
Когда, если не секрет, возникают такие точности, что 4-х знаков после запятой не хватает?
И откуда появляется мысль, что MI сама хранит эти данные точнее? Правило одной двух миллиардной никто не отменял.

[Andrew]

Думаю что это либо собьет координаты, либо MI грохнется.
Когда, если не секрет, возникают такие точности, что 4-х знаков после запятой не хватает?
И откуда появляется мысль, что MI сама хранит эти данные точнее? Правило одной двух миллиардной никто не отменял.

тоже сталкивался с такой проблемой. MI в информации об объекте показывает 6 знаков после запятой, а в таблицу удается вытащить координаты только до 4-х знков.

[Boris]

тоже сталкивался с такой проблемой. MI в информации об объекте показывает 6 знаков после запятой, а в таблицу удается вытащить координаты только до 4-х знков.

Это проблема получения информации об объекте в запросе или то же команды Commandinfo()?

[Andrew]

тоже сталкивался с такой проблемой. MI в информации об объекте показывает 6 знаков после запятой, а в таблицу удается вытащить координаты только до 4-х знков.

Это проблема получения информации об объекте в запросе или то же команды Commandinfo()?

любая функция MapBasic, которая вытаскивает координаты, делает это до четвертого знака.

[Cancer]

А как вы смотрите вещественные числа? Я к тому, что не забывайте их форматировать правильно при выводе, например, так:
Format$(X,"#.################")
Увидите, что там наверняка больше 4-6 знаков

[jbob]

А как вы смотрите вещественные числа? Я к тому, что не забывайте их форматировать правильно при выводе, например, так:
Format$(X,"#.################")
Увидите, что там наверняка больше 4-6 знаков

О, чудо!
Правда, больше 6ти знаков выдоить не удалось, но есть подозрения, что эту точность можно повысить, если ограничить размеры карты. Что-то подобное было в справке. Хотя, это уже не имеет смысла.

Это неявное приведение типов однажды загонит в могилу. Благодарю!