Natural de Brazópolis (MG), Zveiter se formou na Faculdade de Direito de Niterói, no Rio de Janeiro, em 1957. Também na cidade fluminense, o advogado atuou, em 1965, como procurador-geral da Prefeitura. Além de ministro, ele foi presidente da Ordem dos Advogados do Brasil Seccional do Rio de Janeiro (OAB/RJ), de 1973 a 1976. Em 1983, foi nomeado desembargador do Tribunal de Justiça do Rio de Janeiro (TJRJ), onde ficou até 1989, quando se tornou ministro do STJ.
Zveiter também integrou o Tribunal Regional Eleitoral do Rio (TRE-RJ) na classe dos juristas. Ele ficou no cargo por dois mandatos, no início da década de 1980. O jurista atuou ainda no chamado Tribunal da Cidadania até 2001, quando se aposentou.
Ano passado, Zveiter foi homenageado pelo TJRJ, que deu seu none ao plenário do Tribunal Pleno. A biblioteca jurídica da OAB/RJ também foi batizada com o nome do jurista, que doou mais de 6,5 mil livros para o espaço.
Waldemar Zveiter era pai do desembargador Luiz Zveiter, atual decano do TJRJ e presidente da Corte no biênio 2009-2010, e também do secretário estadual de Justiça do Rio de Janeiro, Sérgio Zveiter.