Grupos sociais= um determinado grupo de pessoas na sociedade.

Instituição= Estado, Universidade...

Explicação:

Um grupo social, são grupos de pessoas que representa um espaço na sociedade, como a comunidade LGBT, pessoas deficientes, grupo de esquerda, capitalistas etc, são grupo de pessoas que representa/apoia uma luta ou uma ideologia.

Agora instituições são algum tipo de organização que estabelece regras para um determinado tipo de pessoas, como a faculdade que proporciona estudos e bolsas para estudantes ou como o governo que proporciona direitos para a população, por exemplo.