Некорректные расчеты в Map Algebra

ArcGIS 8.x,9.x,10.x (Arcview, ArcEditor, Arcinfo).
Ответить
swdartvader
Активный участник
Сообщения: 190
Зарегистрирован: 16 дек 2012, 09:08
Репутация: 48
Откуда: Калининград

Некорректные расчеты в Map Algebra

Сообщение swdartvader »

Здравствуйте! Произвожу расчеты в Map Algebra такого рода:

Формула: (104.65 * Ln("Xdist") + 353.27) * ("Xdist" ^ (0.3677 * Ln("Xdist") + 1.75))
Где Xdist - расстояние, построенное Эвклидовым Расстоянием
Размер ячейки 10, экстент выбирается корректно, размеры расчетного поля 7800х5500 метров

В результате расчетов итоговый растр выходит без результатов вычислений [-0;-0].
Расчеты по формуле
200 / (2*3.14159 * 5 * "SigmaY") * Exp(-0.5 * (("Xdist" ^ 2)/("SigmaY" ^ 2))
Где Ydist - расстояние, построенное Эвклидовым Расстоянием
"SigmaY" - горизонтальная дисперсия
Также к удобоваримому результату не приводят - результат - пустой растр, классифицируемый (не понятно на основе чего [-3.4e38;3.4e38]

Подскажите пожалуйста где я могу допускать ошибку. По аналогичным формулам в MS Excel расчеты производятся корректно. Заранее спасибо.
swdartvader
Активный участник
Сообщения: 190
Зарегистрирован: 16 дек 2012, 09:08
Репутация: 48
Откуда: Калининград

Re: Некорректные расчеты в Map Algebra

Сообщение swdartvader »

Также заметил что даже работающие инструменты на некоторое время перестают вести нормальные расчеты
Аватара пользователя
novia
Гуру
Сообщения: 2261
Зарегистрирован: 29 апр 2011, 15:06
Репутация: 489
Откуда: Тель-Авив

Re: Некорректные расчеты в Map Algebra

Сообщение novia »

Для второго растра попробуйте статистику обновить.

Растр эвклидова расстояния имеет тип значений integer?

Руками на паре ячеек посчитайте значения по формуле?

[ Сообщение с мобильного устройства ]
понравилось? жми палец вверх :!:
swdartvader
Активный участник
Сообщения: 190
Зарегистрирован: 16 дек 2012, 09:08
Репутация: 48
Откуда: Калининград

Re: Некорректные расчеты в Map Algebra

Сообщение swdartvader »

Попробовал обновить статистику - безрезультатно - он пустой.

Растр эвклидова расстояния:
Тип ячейки: С плавающей точкой
Глубина: 32 бита
Значение для Nodata: -3,40282346639e+038 (Тоже, что и для неудавшихся растров)

Рассчитал для ячеек руками, результат получился необходимый. Для проверки рассчитал в Excel, тоже все вышло. Вышло и при расчете Калькулятором Поля, при извлечении необходимого в точечный класс и расчетов внутри него (Тип полей был float).

Заранее спасибо.
Аватара пользователя
novia
Гуру
Сообщения: 2261
Зарегистрирован: 29 апр 2011, 15:06
Репутация: 489
Откуда: Тель-Авив

Re: Некорректные расчеты в Map Algebra

Сообщение novia »

Под символом ^ вы подразумеваете возведение в степень? ( или правда вам нужен булев оператор?)
Если да - переделывайте формулу
Почитайте что делают операторы растрового калькулятора http://help.arcgis.com/en/arcgisdesktop ... 0z7000000/

[ Сообщение с мобильного устройства ]
понравилось? жми палец вверх :!:
swdartvader
Активный участник
Сообщения: 190
Зарегистрирован: 16 дек 2012, 09:08
Репутация: 48
Откуда: Калининград

Re: Некорректные расчеты в Map Algebra

Сообщение swdartvader »

Тьфу ты ну ты, а я по глупости душевной считал это возведением в степень. Спасибо Вам огромное.
Аватара пользователя
novia
Гуру
Сообщения: 2261
Зарегистрирован: 29 апр 2011, 15:06
Репутация: 489
Откуда: Тель-Авив

Re: Некорректные расчеты в Map Algebra

Сообщение novia »

Неочевидно. Правда?)

[ Сообщение с мобильного устройства ]
понравилось? жми палец вверх :!:
Ответить

Вернуться в «ArcGIS»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 2 гостя