Большие растры

Вопросы общего характера по ГИС и дистанционному зондированию, не связанные с конкретным ПО.
Ответить
Аватара пользователя
Loup
Интересующийся
Сообщения: 30
Зарегистрирован: 23 ноя 2010, 18:20
Репутация: 1

Большие растры

Сообщение Loup » 18 янв 2016, 13:24

Добрый день!

Хочу поработать с мозаиками Landsat (например, из датасета Hansen'а). Есть QGIS, GRASS, SAGA + могу поставить и научиться работать с другим бесплатным ПО. Сразу же возникло много проблем - любое действие (например, расчет вег. индексов) занимает огромное количество времени, появляются какие-то ошибки при "обыденных" действиях типа склейки каналов, любые преобразованные файлы весят очень много и т.д.

Можете ли накидать ссылок/подсказать какие-то хитрости работы с такими файлами? Нужно ли как-то оптимизировать компьютер для работы с ними (ноут, систем 64-битная, 8 гигов оперативки, 7-я Windows, проц. indel core i5-2410M 2.3 GHz)?

Хочу попробовать классифицировать болота по одной из мозаик на территорию, скажем 1000 на 1000 км.

bolotoved
Гуру
Сообщения: 920
Зарегистрирован: 30 дек 2008, 14:11
Репутация: 236
Откуда: Ханты-Мансийск
Контактная информация:

Re: Большие растры

Сообщение bolotoved » 18 янв 2016, 18:04

Я бы ворочал большие файлы в GRASS, причем в 7-й версии. Там скоростные алгоритмы поблочной работы с большими матрицами, что позволяет обходиться разумным количеством оперативки. Каналы при этом склеивать вообще не нужно (в алгоритмах грасса они склеиваются логически, без создания специального "многоканального" растра).

ericsson
Гуру
Сообщения: 3321
Зарегистрирован: 27 июл 2009, 19:26
Репутация: 748
Ваше звание: Вредитель полей

Re: Большие растры

Сообщение ericsson » 18 янв 2016, 23:08

Объем памяти я бы увеличил в два или три раза, как минимум.

Boris
Гуру
Сообщения: 4205
Зарегистрирован: 10 апр 2006, 22:34
Репутация: 433
Откуда: Париж

Re: Большие растры

Сообщение Boris » 19 янв 2016, 00:17

Loup писал(а): Хочу попробовать классифицировать болота по одной из мозаик на территорию, скажем 1000 на 1000 км.
Для начала надо определиться с алгоритмом классификации. Они очень разные. Для одних требуется непрерывность, хотя бы и виртуальная растра, для других это не важно.
Классифицировать по мозаике вообще ничего нельзя не разобрав ее на части, если это только не какой то очень продвинутый все сглаживающий алгоритм. Даже в пределах одного снимка угол наклона или дымка могут дать совершенно ложные результаты, не то что в пределах мозаики "угробленной" в части спектра мохаики.
И последнее, не знаю где именно расположен ваш участок, но даже в пределах 2-3 градусов по широте(300 км), характеристики схожих объектов на снимке могут существенно различаться из-за разной освещенности и разных климатических условий, а тут "заявка" на целых 9 градусов.

sergsh
Активный участник
Сообщения: 205
Зарегистрирован: 20 фев 2013, 21:48
Репутация: 30

Re: Большие растры

Сообщение sergsh » 20 янв 2016, 22:35

Если ноут то больше 16Гб не поставить ( у меня так же ), а это для половины задач маловато

И работать под Win - это тратить свое время на просмотр песочных часов ...

Нужно ставить Linux, проще всего Ubuntu

Ну а там R или Python, хотя я рекомендовал бы Matlab, например у него очень компактный формат хранения данных, наборы спутниковых снимков по 12 Гб он запихивает в 800 Мб

Аватара пользователя
Loup
Интересующийся
Сообщения: 30
Зарегистрирован: 23 ноя 2010, 18:20
Репутация: 1

Re: Большие растры

Сообщение Loup » 22 янв 2016, 16:14

Каналы при этом склеивать вообще не нужно (в алгоритмах грасса они склеиваются логически, без создания специального "многоканального" растра).
Да, я так и делала, все равно вечно какие-то ошибки выскакивают. Но с этим можно было бы бороться, если бы каждый процесс не занимал огромное количество времени.
Классифицировать по мозаике вообще ничего нельзя не разобрав ее на части, если это только не какой то очень продвинутый все сглаживающий алгоритм.
Hansen и др. вроде используют именно такие алгоритмы, поэтому у меня появилось желание попробовать классифицировать область без разбивки. Сначала весь участок 1000 на 1000 км, затем найти проблемные области и разбить регион на несколько частей и так до достижения хорошего результата. Регион - Западная Сибирь, тайга. Он достаточно однородный. Насчет методов классификации больших площадей часто пишут, что стратификация, т.е. разбивка на области - наиболее удачный метод. При этом субрегионов может быть достаточно много - видела в одной работе около 70 областей на территорию США. Это меня несколько удивляет, потому что работы получается не сильно меньше, чем при посценной классификации (с учетом затрат на создание мозаики).
хотя я рекомендовал бы Matlab, например у него очень компактный формат хранения данных, наборы спутниковых снимков по 12 Гб он запихивает в 800 Мб
Это в Mapping Toolbox? Каковы кстати шансы, что мои задачи он будет считать быстрее QGIS или GRASS?

bolotoved
Гуру
Сообщения: 920
Зарегистрирован: 30 дек 2008, 14:11
Репутация: 236
Откуда: Ханты-Мансийск
Контактная информация:

Re: Большие растры

Сообщение bolotoved » 23 янв 2016, 03:46

> вечно какие-то ошибки выскакивают

1. Ошибки, могут быть 3-х типов: аппаратные, системные и конкретного ПО. Задача у вас нестандартная, нужно внимательно ошибки эти отслеживать и разбираться с какой проблемой вы имеете дело.

> разбивка на области - наиболее удачный метод

2. Нельзя ли эту предварительную разбивку сделать менее затратным методом, например, по MODIS или, редуцировав пространственное разрешение вашей мозаики до приемлемых размеров.

sergsh
Активный участник
Сообщения: 205
Зарегистрирован: 20 фев 2013, 21:48
Репутация: 30

Re: Большие растры

Сообщение sergsh » 24 янв 2016, 12:30

Каковы кстати шансы, что мои задачи он будет считать быстрее QGIS или GRASS?
100% быстрее. Так как есть куча способов по ускорению счета. Векторизация в первую очередь. Встроенная поддержка GPU.

Ответить

Вернуться в «Общие вопросы»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 8 гостей