en basitinden saldırı yapanları banlamak için şunu kurun.

https://github.com/jgmdev/ddos-deflate

cron ile dakikada 1 kez çalıştırın.

ip başına limit için ise Litespeed kullanıyorsunuz herhalde onunla ilgili bilgim yok,
Nginx ile kolayca yapılabiliyor.