Я работаю в бюджетной организации не давно пришла прокуратура с требованием уволить тех кто не прошел службу в армии

Обратная сила не при чем. с 1 января гражданский служащий не может находиться на гражданской службе в случае:
11) признания его не прошедшим военную службу по призыву, не имея на то законных оснований, в соответствии с заключением призывной комиссии (за исключением граждан, прошедших военную службу по контракту).