بالاخره مشکل رو حل کردم.
برای دوستان دیگه هم می ذارم شاید کمکی باشه.

جای server_name فقط IP سرور رو قراردادم و توی فایروال ویندوز هم چک کردم پورت ۸۰ باز هست یا خیر.

کد:

server {
    listen 80;
    server_name  XXX.XXX.192.176; // IP of server


    location /api {
        proxy_pass http://localhost:4000;
    }
    location /socket.io {
            proxy_pass http://localhost:4000;
    }
    location / {
            proxy_pass http://localhost:3000;
    }


    error_page   500 502 503 504  /50x.html;
    location = /50x.html {
      root   html;
    }
}