Как рассчитывается в данном случае компенсация за неиспользованный отпуск?

Не важно, когда вы в отпуске были. если за рабочий год остался неиспользованный отпуск, то при увольнении обязаны компенсацию выплатить, если не остался, то и компенсировать нечего, а если увольняетесь до окончания того рабочего года за который уже отгуляли весь отпуск, то за неотработанное время имеют полное право отпускные удержать.
от даты приема на работу считать надо, а не от того, когда вы отпуска гуляли.