Страница 1 из 1
В чем лучше скриптовать скачивание больших объемов данных
Добавлено: 05 июн 2014, 10:43
nickleb
Эдравствуйте. В чем лучше скриптовать скачивание больших объемов данных? Поделитесь опытом, пожалуйста. Сделал это в Python'е и WGETе - но как-то корявенько все это... М.б. сейчас есть что-то новое и специально предназначенное? С автозапуском, скажем, ежедневным в фоновом режиме?
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 05 июн 2014, 10:48
Александр Мурый
wget/curl/aria2 + cron
Что значит "корявенько"? Приведите ваши скрипты. Чем они вас не устраивают?
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 05 июн 2014, 11:37
nickleb
Александр, сам вызов wget в Python'-скрипте через os мне не нравится... Т.е. хотелось бы "в одном флаконе"...
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 05 июн 2014, 12:56
nickleb
.. а м.б. pycurl?
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 05 июн 2014, 13:40
Александр Мурый
Если хочется чистого Питона, попробуйте поиграться с питоновскими модулями
wget +
crontab/
APScheduler.
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 05 июн 2014, 13:46
nickleb
Спасибо, Александр!
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 08 июн 2014, 10:52
nickleb
... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 08 июн 2014, 13:04
Александр Мурый
nickleb писал(а):... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 08 июн 2014, 14:52
gamm
Александр Мурый писал(а):Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
уиндовс любит показывать не дату создания, а дату последнего обращения ...
Re: В чем лучше скриптовать скачивание больших объемов данны
Добавлено: 08 июн 2014, 14:59
nickleb
...и это так... надо читать и менять атрибуты времени скачанных файлов на атрибуты оригинала...