می تونید از limit_conn peip استفاده کنید مثلا
کد:server { ... limit_conn perip 10; limit_conn perserver 100;}
البته این دایرکتیو با ماجول ngx_http_limit_conn_module تعریف میشه
منبع
برای اینکه ببینید این ماجول در ورژن nginx کمپایل شده تون وجود داره یا نه از این فرمان استفاده کنید:
کد:nginx -V