میتونید از لینوکس استفاده کنید !
مشخصات سخت افزاری هم بسته به نوع و مقدار مصرف باید بهش توجه بشه
رم ، CPU ، پهنای باند فاکتورهایی هست که میل سرور بیشتر به اون نیاز داره و در شرایط عادی VPS معمولی جوابگو خواهد بود
برای مثال مشخصات زیر mailserver ایده عالی رو برای کار شما جوابگو هست .
RAM : 256
CPU : share عادی
پهنای باند و هارد دیسک ( حداقل 5 گیگابایت ) هم بسته به نیازتون تهیه کنید
در ضمن به IP هایی که بهتون میدن باید توجه کنید که قبلا IP برای ارسال ایمیل و اسپم استفاده نشده باشه و به قول معروف Fresh باشه ...
نظری در مورد Free Mail Server ندارم ! ولی برای راه اندازی یک SMTP server این پست رو معرفی میکنم بهتون .