В чем лучше скриптовать скачивание больших объемов данных

Вопросы по нескольким пакетам сразу, или вопросы, которые непонятно к какой ГИС отнести
Ответить
nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

В чем лучше скриптовать скачивание больших объемов данных

Сообщение nickleb » 05 июн 2014, 10:43

Эдравствуйте. В чем лучше скриптовать скачивание больших объемов данных? Поделитесь опытом, пожалуйста. Сделал это в Python'е и WGETе - но как-то корявенько все это... М.б. сейчас есть что-то новое и специально предназначенное? С автозапуском, скажем, ежедневным в фоновом режиме?

Александр Мурый
Гуру
Сообщения: 5173
Зарегистрирован: 26 сен 2009, 16:26
Репутация: 792
Ваше звание: званий не имею
Откуда: Москва

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение Александр Мурый » 05 июн 2014, 10:48

wget/curl/aria2 + cron
Что значит "корявенько"? Приведите ваши скрипты. Чем они вас не устраивают?
Редактор материалов, модератор форума

nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb » 05 июн 2014, 11:37

Александр, сам вызов wget в Python'-скрипте через os мне не нравится... Т.е. хотелось бы "в одном флаконе"...

nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb » 05 июн 2014, 12:56

.. а м.б. pycurl?

Александр Мурый
Гуру
Сообщения: 5173
Зарегистрирован: 26 сен 2009, 16:26
Репутация: 792
Ваше звание: званий не имею
Откуда: Москва

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение Александр Мурый » 05 июн 2014, 13:40

Если хочется чистого Питона, попробуйте поиграться с питоновскими модулями wget + crontab/APScheduler.
Редактор материалов, модератор форума

nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb » 05 июн 2014, 13:46

Спасибо, Александр!

nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb » 08 июн 2014, 10:52

... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..

Александр Мурый
Гуру
Сообщения: 5173
Зарегистрирован: 26 сен 2009, 16:26
Репутация: 792
Ваше звание: званий не имею
Откуда: Москва

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение Александр Мурый » 08 июн 2014, 13:04

nickleb писал(а):... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
Редактор материалов, модератор форума

gamm
Гуру
Сообщения: 4168
Зарегистрирован: 15 окт 2010, 08:33
Репутация: 1107
Ваше звание: программист
Откуда: Казань

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение gamm » 08 июн 2014, 14:52

Александр Мурый писал(а):Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
уиндовс любит показывать не дату создания, а дату последнего обращения ...

nickleb
Гуру
Сообщения: 968
Зарегистрирован: 22 май 2010, 20:20
Репутация: 154

Re: В чем лучше скриптовать скачивание больших объемов данны

Сообщение nickleb » 08 июн 2014, 14:59

...и это так... надо читать и менять атрибуты времени скачанных файлов на атрибуты оригинала...

Ответить

Вернуться в «Общий - ПО»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 3 гостя