Страница 1 из 1

Некорректные расчеты в Map Algebra

Добавлено: 04 апр 2013, 21:37
swdartvader
Здравствуйте! Произвожу расчеты в Map Algebra такого рода:

Формула: (104.65 * Ln("Xdist") + 353.27) * ("Xdist" ^ (0.3677 * Ln("Xdist") + 1.75))
Где Xdist - расстояние, построенное Эвклидовым Расстоянием
Размер ячейки 10, экстент выбирается корректно, размеры расчетного поля 7800х5500 метров

В результате расчетов итоговый растр выходит без результатов вычислений [-0;-0].
Расчеты по формуле
200 / (2*3.14159 * 5 * "SigmaY") * Exp(-0.5 * (("Xdist" ^ 2)/("SigmaY" ^ 2))
Где Ydist - расстояние, построенное Эвклидовым Расстоянием
"SigmaY" - горизонтальная дисперсия
Также к удобоваримому результату не приводят - результат - пустой растр, классифицируемый (не понятно на основе чего [-3.4e38;3.4e38]

Подскажите пожалуйста где я могу допускать ошибку. По аналогичным формулам в MS Excel расчеты производятся корректно. Заранее спасибо.

Re: Некорректные расчеты в Map Algebra

Добавлено: 04 апр 2013, 21:45
swdartvader
Также заметил что даже работающие инструменты на некоторое время перестают вести нормальные расчеты

Re: Некорректные расчеты в Map Algebra

Добавлено: 04 апр 2013, 23:35
novia
Для второго растра попробуйте статистику обновить.

Растр эвклидова расстояния имеет тип значений integer?

Руками на паре ячеек посчитайте значения по формуле?

[ Сообщение с мобильного устройства ]

Re: Некорректные расчеты в Map Algebra

Добавлено: 05 апр 2013, 22:34
swdartvader
Попробовал обновить статистику - безрезультатно - он пустой.

Растр эвклидова расстояния:
Тип ячейки: С плавающей точкой
Глубина: 32 бита
Значение для Nodata: -3,40282346639e+038 (Тоже, что и для неудавшихся растров)

Рассчитал для ячеек руками, результат получился необходимый. Для проверки рассчитал в Excel, тоже все вышло. Вышло и при расчете Калькулятором Поля, при извлечении необходимого в точечный класс и расчетов внутри него (Тип полей был float).

Заранее спасибо.

Re: Некорректные расчеты в Map Algebra

Добавлено: 05 апр 2013, 22:41
novia
Под символом ^ вы подразумеваете возведение в степень? ( или правда вам нужен булев оператор?)
Если да - переделывайте формулу
Почитайте что делают операторы растрового калькулятора http://help.arcgis.com/en/arcgisdesktop ... 0z7000000/

[ Сообщение с мобильного устройства ]

Re: Некорректные расчеты в Map Algebra

Добавлено: 05 апр 2013, 23:09
swdartvader
Тьфу ты ну ты, а я по глупости душевной считал это возведением в степень. Спасибо Вам огромное.

Re: Некорректные расчеты в Map Algebra

Добавлено: 06 апр 2013, 10:46
novia
Неочевидно. Правда?)

[ Сообщение с мобильного устройства ]