A diversidade de tipos de memória é causada pelo custo e pela necessidade de armazenar dados por muito tempo.

Num mundo utópico, onde custo não é problema, toda a memória seria RAM de altíssima velocidade, estática, como as memórias de cache e de placas de vídeo de alta performance. Essas memórias seriam abastecidas de energia de forma ininterrupta, para todo sempre. O custo da memória não seria problema, o custo da energia elétrica para mantë-la ligada o tempo todo não seria problema.

Na vida real a coisa é diferente. Memória rápida custa caro e mantë-la ligada o tempo todo também custa caro. 

Por isso se inventou outros tipos de memória. Memórias que armazenam dados mesmo quando não tem energia ... economiza a conta de energia. Memórias que custam bem mais barato do que as velocíssimas memórias estáticas. 

Em suma, é isso
Para manter um computador com memória RAM ligada o tempo todo custa caro. Caro para comprar, caro para manter. Por isso se inventou outros tipos de memória,  que são mais lentas, porém muito mais baratas