Страница 1 из 1

В чем лучше скриптовать скачивание больших объемов данных

Добавлено: 05 июн 2014, 10:43
nickleb
Эдравствуйте. В чем лучше скриптовать скачивание больших объемов данных? Поделитесь опытом, пожалуйста. Сделал это в Python'е и WGETе - но как-то корявенько все это... М.б. сейчас есть что-то новое и специально предназначенное? С автозапуском, скажем, ежедневным в фоновом режиме?

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 05 июн 2014, 10:48
Александр Мурый
wget/curl/aria2 + cron
Что значит "корявенько"? Приведите ваши скрипты. Чем они вас не устраивают?

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 05 июн 2014, 11:37
nickleb
Александр, сам вызов wget в Python'-скрипте через os мне не нравится... Т.е. хотелось бы "в одном флаконе"...

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 05 июн 2014, 12:56
nickleb
.. а м.б. pycurl?

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 05 июн 2014, 13:40
Александр Мурый
Если хочется чистого Питона, попробуйте поиграться с питоновскими модулями wget + crontab/APScheduler.

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 05 июн 2014, 13:46
nickleb
Спасибо, Александр!

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 08 июн 2014, 10:52
nickleb
... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 08 июн 2014, 13:04
Александр Мурый
nickleb писал(а):... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 08 июн 2014, 14:52
gamm
Александр Мурый писал(а):Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
уиндовс любит показывать не дату создания, а дату последнего обращения ...

Re: В чем лучше скриптовать скачивание больших объемов данны

Добавлено: 08 июн 2014, 14:59
nickleb
...и это так... надо читать и менять атрибуты времени скачанных файлов на атрибуты оригинала...