• 17-09-2024, 23:09:48
    #1
    Arkadaşlar selam, PHP ile bir bot yazıyorum ve çalışma mantığını kısaca şöyle açıklayayım:

    Bir sayfada 25-30 tane içerik var. Bot, önce her bir içeriğin detay sayfasına GET isteği gönderiyor, ardından bu sayfalardan gerekli bilgileri alıp kaydediyor. Tüm içerikler için bu işlemi sırayla tekrarlıyor. Ancak, yaklaşık 8-10 içeriği aldıktan sonra, verileri çektiğim site "429 Too Many Requests" hatası vermeye başlıyor.

    Bu işlemleri Guzzle ve DomCrawler kullanarak yapıyorum. Bu sorunu nasıl çözebilirim?
  • 17-09-2024, 23:10:38
    #2
    proxy kullan, ip ban yiyorsun bi kaç işlemden sonra
  • 17-09-2024, 23:17:33
    #3
    ByHazerfen adlı üyeden alıntı: mesajı görüntüle
    proxy kullan, ip ban yiyorsun bi kaç işlemden sonra
    Hocam zaten proxy kullanıyorum. İnternetten bi liste buldum onu ekledim ama olmadı.
  • 17-09-2024, 23:20:03
    #4
    SinanSS adlı üyeden alıntı: mesajı görüntüle
    Hocam zaten proxy kullanıyorum. İnternetten bi liste buldum onu ekledim ama olmadı.
    İnternetten bulduğunuz free listeler pek iş yapmaz, residential proxy satın alabilirsin bu sayede her istekte farklı ip ile istek atarsın.
  • 17-09-2024, 23:21:06
    #5
    ByHazerfen adlı üyeden alıntı: mesajı görüntüle
    proxy kullan, ip ban yiyorsun bi kaç işlemden sonra
    ByHazerfen adlı üyeden alıntı: mesajı görüntüle
    İnternetten bulduğunuz free listeler pek iş yapmaz, residential proxy satın alabilirsin bu sayede her istekte farklı ip ile istek atarsın.
    Peki hocam bu proxyler tek seferlik değildir dimi? Ne kadar sürede bi yenilemem lazım proxyleri.
  • 17-09-2024, 23:23:03
    #6
    SinanSS adlı üyeden alıntı: mesajı görüntüle
    Peki hocam bu proxyler tek seferlik değildir dimi? Ne kadar sürede bi yenilemem lazım proxyleri.
    Yani proxy aldığın yerlerde oturum süresi belirleyip bir süre boyunca aynı ip ve oturumdan istek atabilirsin ama zaten her istek gönderdiğinde farklı ip ile istek attığı için ip engeline pek takılmazsın.

    Bu proxylerde gb bazlı satılır yani bir limitin olur limit dolunca limit arttırman lazım.
  • 18-09-2024, 00:00:49
    #7
    SinanSS adlı üyeden alıntı: mesajı görüntüle
    Peki hocam bu proxyler tek seferlik değildir dimi? Ne kadar sürede bi yenilemem lazım proxyleri.
    Bedava proxleri direkt çöpe at gitsin.

    Proxy konusunda bir sürü seçeneğin var. Eğer web site ipv6 destekliyorsa ipv6 tercih etmeni öneririm. (Fiyatları çok uygun ortalama 1 proxy 1-10 tl arasında oluyor) Bazı yerlerde gb ile satılan proxyler oluyor. Bunlarda ya web siteye istek göndererek değiştiriyorsun ipyi ya da her istek gönderdiğinde otomatik değişiyor

    Datacenter türevleri ya da toplu ip alırsan not defterine kaydetme seçeneği sunulur not defterinden her istekte çekip değiştirirsin

    Son olarakta mobil veriyi sürekli otomatik değiştiren yazılımla uğraşıyorum bunu forumda yakın zamanda satışa çıkartacağım kendi programınla optimize edip telefonun internetinden de sürekli yararlanabilirsin. Proxy ücret ödememiş olursun bu durumda da
  • 18-09-2024, 00:02:57
    #8
    SimpleAnarchist adlı üyeden alıntı: mesajı görüntüle
    Bedava proxleri direkt çöpe at gitsin.

    Proxy konusunda bir sürü seçeneğin var. Eğer web site ipv6 destekliyorsa ipv6 tercih etmeni öneririm. (Fiyatları çok uygun ortalama 1 proxy 1-10 tl arasında oluyor) Bazı yerlerde gb ile satılan proxyler oluyor. Bunlarda ya web siteye istek göndererek değiştiriyorsun ipyi ya da her istek gönderdiğinde otomatik değişiyor

    Datacenter türevleri ya da toplu ip alırsan not defterine kaydetme seçeneği sunulur not defterinden her istekte çekip değiştirirsin

    Son olarakta mobil veriyi sürekli otomatik değiştiren yazılımla uğraşıyorum bunu forumda yakın zamanda satışa çıkartacağım kendi programınla optimize edip telefonun internetinden de sürekli yararlanabilirsin. Proxy ücret ödememiş olursun bu durumda da
    Hocam sitenin ipv6 destekleyip desteklemediğini nasıl öğrenebilirim?
  • 18-09-2024, 00:06:02
    #9
    SinanSS adlı üyeden alıntı: mesajı görüntüle
    Hocam sitenin ipv6 destekleyip desteklemediğini nasıl öğrenebilirim?
    https://domsignal.com/ipv6-test