ارور 404 مشکلی برای سایت شما ایجاد نمیکنه. نه از نظر فنی و نه از نظر رتبه و سئو.
بهتره به تدریج ارور هایی که میاد رو از طریق بخش remove url وبمستر پاک کنید و همچنین از طریق فایل robots.txt اونها رو disallow کنید

مثلا اگه a/b/test کلا حذف شده، در داخل remove url بزنید a و در بخش بعدی روی directory remove بزارید و انجام بدید
همچنین در فایل robots.txt کد disallow: /a رو بزنید کلا دایرکتوری a با تمام محتویاتش پاک میشه.