ابتدا در nic.ir روی دامنه خود توی تنظیمات dns اینارو ست کنید :
ns1.onesignal1.ir ipvps
ns2.onesignal1.ir ipvps

بعد برید Dns Server خودتونو راه اندازی کنید آموزش هاش تو گوگل ریخته !
پیشنهاد من اینه از لینوکس Centos 6 استفاده کنید به جای ویندوز ...