В чем лучше скриптовать скачивание больших объемов данных

Вопросы по нескольким пакетам сразу, или вопросы, которые непонятно к какой ГИС отнести
Ответить
nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

В чем лучше скриптовать скачивание больших объемов данных

Сообщение nickleb »

Эдравствуйте. В чем лучше скриптовать скачивание больших объемов данных? Поделитесь опытом, пожалуйста. Сделал это в Python'е и WGETе - но как-то корявенько все это... М.б. сейчас есть что-то новое и специально предназначенное? С автозапуском, скажем, ежедневным в фоновом режиме?
Александр Мурый
Гуру
Сообщения: 5173
Зарегистрирован: 26 сен 2009, 16:26
Репутация: 792
Ваше звание: званий не имею
Откуда: Москва

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение Александр Мурый »

wget/curl/aria2 + cron
Что значит "корявенько"? Приведите ваши скрипты. Чем они вас не устраивают?
Редактор материалов, модератор форума
nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb »

Александр, сам вызов wget в Python'-скрипте через os мне не нравится... Т.е. хотелось бы "в одном флаконе"...
nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb »

.. а м.б. pycurl?
Александр Мурый
Гуру
Сообщения: 5173
Зарегистрирован: 26 сен 2009, 16:26
Репутация: 792
Ваше звание: званий не имею
Откуда: Москва

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение Александр Мурый »

Если хочется чистого Питона, попробуйте поиграться с питоновскими модулями wget + crontab/APScheduler.
Редактор материалов, модератор форума
nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb »

Спасибо, Александр!
nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb »

... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
Александр Мурый
Гуру
Сообщения: 5173
Зарегистрирован: 26 сен 2009, 16:26
Репутация: 792
Ваше звание: званий не имею
Откуда: Москва

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение Александр Мурый »

nickleb писал(а):... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
Редактор материалов, модератор форума
gamm
Гуру
Сообщения: 4168
Зарегистрирован: 15 окт 2010, 08:33
Репутация: 1107
Ваше звание: программист
Откуда: Казань

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение gamm »

Александр Мурый писал(а):Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
уиндовс любит показывать не дату создания, а дату последнего обращения ...
nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb »

...и это так... надо читать и менять атрибуты времени скачанных файлов на атрибуты оригинала...
Ответить

Вернуться в «Общий - ПО»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 2 гостя