Curl Proxy Checker - Cronjob Time-Out
Gewijzigd op 16/04/2014 20:23:28 door Patrick B
Met timeout op 10 i.p.v. 3 had je toen nog enig verschil in de uiteindelijke stop/aantal proxy's ? Of maakt dat geen verschil.
Ik zal nu nog een scan laten lopen op 10s time out
Gewijzigd op 16/04/2014 16:53:07 door Patrick B
Hoe voer je de cronjob uit? Via wget of via een directe aanroep van het script op je server via php?
Toevoeging op 16/04/2014 16:57:22:
Offtopic, cool proxy scraper?
- Aar - op 16/04/2014 16:53:36:
Hoe voer je de cronjob uit? Via wget of via een directe aanroep van het script op je server via php?
directe aanvraag op het script, via directadmin.
cd /home/gebruiker/domains/domein/public_html/scanner; /usr/local/bin/php -q index.php
Gewijzigd op 16/04/2014 17:01:48 door Patrick B
En wat krijg je te zien als je het script zelf uitvoert (dus niet via cron)
TJVB tvb op 16/04/2014 18:01:29:
Wat is de reden dat je -q gebruikt?
En wat krijg je te zien als je het script zelf uitvoert (dus niet via cron)
En wat krijg je te zien als je het script zelf uitvoert (dus niet via cron)
Heb alle cronjob commands al geprobeert, ook zonder quiet mode.
Ik las op forums dat -q word aangeraden voor lange scripts.
Maar ook zonder -q het zelfde resultaat
Dit zie je in de browser, werkt prima, maar stopt dan ook na 5-10 minuten.
Gewijzigd op 16/04/2014 18:35:07 door Patrick B
Toevoeging op 16/04/2014 18:39:40:
Daarnaast kan het aan de host liggen. Connectie open voor 10 min is wel lang..
18:56 gestopt
131 proxies in scanned.txt
Hij heeft dus rond de 1500 proxies gescanned van de 8.000 :(
Ik heb zo verschillende scripts draaien die 24/7 door gaan om apparatuur aan te sturen.
While(1==1) {
// doe iets
}
Gewijzigd op 16/04/2014 19:29:01 door John D
Willen ze niet wijzigen.. opzoek naar een andere provider dus, iemand tips ?
Gewijzigd op 16/04/2014 20:24:08 door Patrick B
@Joey, ik heb een grote ruimte, en ik kan uw script hosten.
kun je niet om de X connecties curl opnieuw starten? Zodat je onder die 8 minuten blijft.
Of via een python of perl scriptje een checker maken.
Ik heb mijn script aangepast en ondersteunt nu multithreading, 8k in 9 minuten.
Pepijn kan je mij een PM sturen met wat informatie ?
Of je stuurt een mailtje naar antagonist, dat je de timeout hoger wilt. Zullen ze vast wel toestaan. Desnoods bypass je het.