بعید می دونم از کم بودن Video RAM بوده باشه اما می تونید با vSphere Client به ESXi خوئتون وصل بشید و توی configuration اون VMها Video RAMشون رئ افزایش بدید.