Sistema operacional  é um programa ou um conjunto de programas cuja função é gerenciar os recursos do sistema (definir qual programa recebe atenção do processador, gerenciar memória, criar um sistema de arquivos, etc.), enfim o SO trabalha com muitos aspectos de baixo nível (Mais próximos do computador).

Para melhor entendimento eu recomendaria o Livro de sistemas operacionais do Tanebaum.