Могу ли я на работе пользоваться диктофоном?(в частности при разговоре с начальником-грубияном)

Да. не надо никого предупреждать. нельзя: записывать чужой разговор (например, вы оставили диктофон в комнате, а сами вышли), это будет вмешательство в частную жизнь, ст.23 Конституции РФ