В чем лучше скриптовать скачивание больших объемов данных
-
- Гуру
- Сообщения: 968
- Зарегистрирован: 22 май 2010, 20:20
- Репутация: 154
В чем лучше скриптовать скачивание больших объемов данных
Эдравствуйте. В чем лучше скриптовать скачивание больших объемов данных? Поделитесь опытом, пожалуйста. Сделал это в Python'е и WGETе - но как-то корявенько все это... М.б. сейчас есть что-то новое и специально предназначенное? С автозапуском, скажем, ежедневным в фоновом режиме?
-
- Гуру
- Сообщения: 5173
- Зарегистрирован: 26 сен 2009, 16:26
- Репутация: 792
- Ваше звание: званий не имею
- Откуда: Москва
Re: В чем лучше скриптовать скачивание больших объемов данны
wget/curl/aria2 + cron
Что значит "корявенько"? Приведите ваши скрипты. Чем они вас не устраивают?
Что значит "корявенько"? Приведите ваши скрипты. Чем они вас не устраивают?
Редактор материалов, модератор форума
-
- Гуру
- Сообщения: 968
- Зарегистрирован: 22 май 2010, 20:20
- Репутация: 154
Re: В чем лучше скриптовать скачивание больших объемов данны
Александр, сам вызов wget в Python'-скрипте через os мне не нравится... Т.е. хотелось бы "в одном флаконе"...
-
- Гуру
- Сообщения: 968
- Зарегистрирован: 22 май 2010, 20:20
- Репутация: 154
Re: В чем лучше скриптовать скачивание больших объемов данны
.. а м.б. pycurl?
-
- Гуру
- Сообщения: 5173
- Зарегистрирован: 26 сен 2009, 16:26
- Репутация: 792
- Ваше звание: званий не имею
- Откуда: Москва
Re: В чем лучше скриптовать скачивание больших объемов данны
Если хочется чистого Питона, попробуйте поиграться с питоновскими модулями wget + crontab/APScheduler.
Редактор материалов, модератор форума
-
- Гуру
- Сообщения: 968
- Зарегистрирован: 22 май 2010, 20:20
- Репутация: 154
Re: В чем лучше скриптовать скачивание больших объемов данны
Спасибо, Александр!
-
- Гуру
- Сообщения: 968
- Зарегистрирован: 22 май 2010, 20:20
- Репутация: 154
Re: В чем лучше скриптовать скачивание больших объемов данны
... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
-
- Гуру
- Сообщения: 5173
- Зарегистрирован: 26 сен 2009, 16:26
- Репутация: 792
- Ваше звание: званий не имею
- Откуда: Москва
Re: В чем лучше скриптовать скачивание больших объемов данны
Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.nickleb писал(а):... а как оригинальные атрибуты времени создания скачанного с ftp-сервера файла сохранить? есть какие-то ключи в wget?..
Редактор материалов, модератор форума
-
- Гуру
- Сообщения: 4168
- Зарегистрирован: 15 окт 2010, 08:33
- Репутация: 1107
- Ваше звание: программист
- Откуда: Казань
Re: В чем лучше скриптовать скачивание больших объемов данны
уиндовс любит показывать не дату создания, а дату последнего обращения ...Александр Мурый писал(а):Вроде как атрибуты создания и изменения файла сохраняются wget'ом по умолчанию.
-
- Гуру
- Сообщения: 968
- Зарегистрирован: 22 май 2010, 20:20
- Репутация: 154
Re: В чем лучше скриптовать скачивание больших объемов данны
...и это так... надо читать и менять атрибуты времени скачанных файлов на атрибуты оригинала...
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 2 гостя