Nascido em Penafiel, em 1934 e irmão do pintor Eurico Gonçalves, Rui Mário Gonçalves interessou-se desde cedo pela arte, apesar de ter começado por estudar Ciências Físico-Químicas na Universidade de Lisboa. No início dos anos 60, foi para Paris como bolseiro da Fundação Calouste Gulbenkian, tendo estudado com Pierre Francastel. Em 1967, iniciou a sua carreira como professor no curso de formação artística na Sociedade Nacional de Belas-Artes e ensinou ainda nos anos 70 nas escolas de teatro e de cinema do Conservatório Nacional de Lisboa. Era professor catedrático jubilado da Faculdade de Letras da Universidade de Lisboa, no Departamento de Literaturas Românicas, onde entrou em 1974.

O crítico fundou a secção portuguesa da Associação Internacional de Críticos de Arte nos anos 60, fundamental no reconhecimento da atividade da crítica de arte em Portugal.

“A arte é geralmente a primeira reveladora das transformações que a humanidade deseja. Não é a política. A boa política é aquela que serve os verdadeiros anseios da Humanidade, e esses verdadeiros anseios são expressos na melhor arte”, disse Rui Mário Gonçalves numa entrevista à Antena 2 em 1997.