2011-10-18 3 views
3

私は個々のページをダウンロードするWebクローラ/スパイダーを探しています。これをサポートする良い(できれば無料の)製品とは何ですか?HTMLページをダウンロードするにはどのような優れたWebクローラですか?

+2

この質問プログラミング質問するものについて教えてください?そうでない場合は、[FAQ](http://stackoverflow.com/faq)をご覧ください。 – Oded

+0

@Oded:そうです、これはおそらく[superuser.com](http://superuser.com)または[webmasters.stackexchange.com](http://webmasters.stackexchange.com)に属している可能性があります。 – Unsigned

答えて

7

wgetまたはcurlがあります。あなたの要件は何ですか?再帰的にページをクロールする必要がありますか、特定のURLをダウンロードするだけですか? wgetは両方を実行できます。あなたはその後、wgetを試してみるの穴のウェブサイトをダウンロードしたい場合は、私はWGETのために行くだろう

0

をwww.gnu.org/s/wget/。再帰的にダウンロードする機能があります。ヘッダーを操作していくつかの小さなファイルをダウンロードする必要がある場合は、curl(またはwget)を試してください。 巨大なファイルをパラレルにダウンロードするなどの機能が必要な場合は、aria2をお勧めします。

関連する問題