PDA

Archiv verlassen und diese Seite im Standarddesign anzeigen : Toop zum Mirrorn von Webseiten, besser als wget?



Noether
08.12.10, 08:02
wget ist gut brauchbar, aber es funktioniert bei einigen Webseiten nicht, beispielsweise www.safenet-inc.com:



> >cookie.txt; wget -v -np -e robots=off --mirror -c --cache=off -T 20 --quota=2345M --tries=2 --restrict-file-names=unix --ignore-length --no-passive-ftp --retry-connrefused --limit-rate=123456 --proxy=on --cookies=on --load-cookies=cookie.txt --keep-session-cookies --save-cookies=cookie.txt --user-agent="Mozilla/4.0" www.safenet-inc.com
--2010-12-08 08:51:08-- http://www.safenet-inc.com/
Verbindungsaufbau zu 127.0.0.1:4001... verbunden.
Proxy-Anforderung gesendet, warte auf Antwort... Lesefehler (Die Wartezeit für die Verbindung ist abgelaufen) beim Vorspann (header).
Erneuter Versuch.

--2010-12-08 08:51:29-- (Versuch: 2) http://www.safenet-inc.com/
Verbindungsaufbau zu 127.0.0.1:4001... verbunden.
Proxy-Anforderung gesendet, warte auf Antwort... 502 Bad Gateway
2010-12-08 08:51:45 FEHLER 502: Bad Gateway.


Ich suche daher bessere Tools, die möglichst universell sind, also beispielsweise auch Videos mit Downloaden.
Speziell für Videos gibt es ja Programme wie youtube-dl (zumind. beim Debian dabei), aber ich suche etwas für "alle Downloads" und nicht tausende Tools.

Was empfehlen die Experten hier? :confused:

muell200
08.12.10, 08:17
Verbindungsaufbau zu 127.0.0.1:4001... verbunden.
Proxy-Anforderung gesendet, warte auf Antwort... Lesefehler (Die Wartezeit für die Verbindung ist abgelaufen) beim Vorspann (header).
Erneuter Versuch.


ist das ein wget fehler?

du verwendest einen proxy - oder?

Noether
08.12.10, 08:53
ist das ein wget fehler?

du verwendest einen proxy - oder?

Ja, aber a) geht es mit Firefox und dem gleichen Proxy und b) geht es auch ohne Proxy nicht.

muell200
08.12.10, 10:03
Ja, aber a) geht es mit Firefox und dem gleichen Proxy und b) geht es auch ohne Proxy nicht.

wie sieht die ausgabe ohne proxy aus?

Noether
08.12.10, 10:14
wie sieht die ausgabe ohne proxy aus?

Also heute funktioniert es merkwürdigerweise; das ist der Vorführ-Effekt :ugly:

Aber es bleibt das Phänomen, das es über Proxies mit Firefox geht, aber nicht mit wget.
Ausprobiert habe ich es mit dem Provider-Proxy, JAP und Tor.

muell200
08.12.10, 10:20
Aber es bleibt das Phänomen, das es über Proxies mit Firefox geht, aber nicht mit wget.
Ausprobiert habe ich es mit dem Provider-Proxy, JAP und Tor.

dann ist es evt. kein wget problem sondern es liegt evt. an der proxy einstellung...

Noether
08.12.10, 10:26
dann ist es evt. kein wget problem sondern es liegt evt. an der proxy einstellung...

Das allein kann es nicht sein, weil es ja mit Firefox geht.

Unabhängig davon stellt sich die Frage nach wget-Alternativen.
Welche gibt es? :confused:

Aqualung
08.12.10, 10:28
"curl" - k.A. ob das mehr leistet als wget.


lynx -source -dump

Painkiller
08.12.10, 10:41
aria2c ist auch gut.

aria2c hat die Moeglichkeit mit mehreren Verbindungen ein Download durchzufuehren. Meiner Erfahrung nach, tun sich aria2c, curl und wget auf der Konsole nicht viel. Bei der Integration in andere Programme sieht es schon anders aus.

Noether
08.12.10, 10:44
"curl" - k.A. ob das mehr leistet als wget.


lynx -source -dump

Aha, aber rekursiv geht das nicht, oder? :confused:

Noether
08.12.10, 11:02
aria2c ist auch gut.

aria2c hat die Moeglichkeit mit mehreren Verbindungen ein Download durchzufuehren. Meiner Erfahrung nach, tun sich aria2c, curl und wget auf der Konsole nicht viel. Bei der Integration in andere Programme sieht es schon anders aus.

Aha, aber Rekursiv Downloaden geht damit nicht, oder? :confused:

Übrigens sehe ich beim Downloaden mit wget ohne Proxy das Problem, das der Download nach 200 MB beendet wird. Ein nochmaliges Starten um zu sehen ob auch alles downgeloadet wurde, funktioniert aber nicht:



--2010-12-08 11:46:43-- http://www.safenet-inc.com/
Auflösen des Hostnamen www.safenet-inc.com... 192.43.161.95
Verbindungsaufbau zu www.safenet-inc.com|192.43.161.95|:80... verbunden.
HTTP-Anforderung gesendet, warte auf Antwort... Keine Daten empfangen.
Erneuter Versuch.

--2010-12-08 11:46:45-- (Versuch: 2) http://www.safenet-inc.com/
Verbindungsaufbau zu www.safenet-inc.com|192.43.161.95|:80... verbunden.
HTTP-Anforderung gesendet, warte auf Antwort... Keine Daten empfangen.
Aufgegeben.

muell200
08.12.10, 12:12
HTTP-Anforderung gesendet, warte auf Antwort... Keine Daten empfangen.
Erneuter Versuch.



steht doch da - es kann keine verbindung aufgebaut werden

evt. blockiert eine firewall, proxy,...

Noether
08.12.10, 14:25
steht doch da - es kann keine verbindung aufgebaut werden

evt. blockiert eine firewall, proxy,...

Ja, irgendsowas muss es sein, denn mit Browsern habe ich keine Probleme, aber wget kann nur von einigen IP-Adressen, die mein Anschluss bekommt, downloaden.
Und proxymäßig sieht es aktuell so aus, für www.safenet-inc.com / 192.43.161.95 :

direkt: Keine Daten empfangen / Keine Daten empfangen
JAP: Problemlos / Problemlos
Provider-Proxy: 502 Bad Gateway / 502 Bad Gateway
I2P: 502 Bad Gateway / Problemlos
Tor: Problemlos / 502 No data received from server or forwarder

Also über I2P funktioniert es nicht mit dem Namen, aber mit der IP funktioniert das Downloaden, während es über Tor genau umgekehrt ist!

Naja, da bleibt wohl nur die Proxies durchzuprobieren und falls möglich statt dem Namen die IP zu probieren.
Notfalls müsste ich dem Tor vorgeben welche Exit-Nodes verwendet werden sollen.

muell200
08.12.10, 14:27
Naja, da bleibt wohl nur die Proxies durchzuprobieren und falls möglich statt dem Namen die IP zu probieren.
Notfalls müsste ich dem Tor vorgeben welche Exit-Nodes verwendet werden sollen.

oder einfach einen proxy richtig einstellen... :)

bei mir geht es ohne proxy wunderbar...

Noether
08.12.10, 14:46
bei mir geht es ohne proxy wunderbar...

Ja, bis zum Mittag war das auch bei mir der Fall, aber dann gab es eine neue IP für meinen Anschluss und dann war Ende, zumindest ohne Proxy.