Nasceu no dia 2 de julho de 1914, em Recife. Em 1931, iniciou o seu curso na Escola de Engenharia de Pernambuco que depois em 1933 se transferiu para São Paulo (Escola Politécnica). Recebeu o seu diploma de engenheiro eletricista. Logo concluiu o seu curso de bacharel em Matemática na Faculdade de Filosofia, Ciência e Letras da USP.

Em 1939 foi para a Europa e trabalhou no Instituto da Física da Universidade de Roma e logo depois se transferiu para Zurique.

Em 1940, volta para o Brasil e ganha uma bolsa da Fundação Guggenhein.

Foi membro do Institute for Advanced Studies de Princeton e ainda trabalhou no Observatório Astronômico de Yerkes.

Em 1944, volta ao Brasil para prestar concurso na USP para a cadeira Mecânica Celeste e Superior do Departamento de Física da FFCL.

Em 1953 , se tornou diretor do Departamento de Física da USP até 1961. Durante este período criou o laboratório de Estado Sólido e instalou o primeiro computador.

Mário Schemberg publicou centenas de trabalho em Física Teórica, Física Experimental, Astrofísica, Mecânica Estatística, Mecânica Quântica, Relatividade entre outros além de escrever muitos trabalhos em Matemática.

A campanha "O Petroleo é Nosso", onde ele iniciou e lutou pela defesa de nossos recursos de minérios nucleares e se envolveu nos debates sobre as centrais nucleares.