Em 1947 ele retornou à Alemanha onde começou sua carreira profissional cantando o barítono solo no Ein Deutsches Requiem de Brahms sem nenhum ensaio. (Ele foi um substituto de última hora de um cantor que estava doente.) Ele deu seu primeiro recital Lieder em Leipzig no final daquele ano.
Desde o início de sua carreira ele trabalhou com os famosos sopranos Elisabeth Schwarzkopf e Irmgard Seefried, e o produtor de gravação Walter Legge, produzindo álbuns muito populares de lieder de Franz Schubert e Hugo Wolf.
No outono de 1948, Fischer-Dieskau tornou-se o barítono lírico principal da Städtische Oper Berlin (Ópera Municipal, Berlim Ocidental), fazendo sua primeira apresentação de ópera no papel de Posa no Don Carlos de Verdi sob o maestro Ferenc Fricsay. Esta empresa, conhecida depois de 1961 como Deutsche Oper, deveria ser sua casa artística até sua aposentadoria da ópera, em 1978.
Fischer-Dieskau fez aparições de convidados nas casas de ópera em Viena e Munique. Após 1949, ele fez turnês de concertos na Holanda, Suíça, França e Itália. Em 1951, ele apareceu pela primeira vez em um concerto no Festival de Salzburgo com Lieder eines fahrenden Gesellen (Canções de um Wayfarer), de Mahler, sob a direção de Wilhelm Furtwängler. Ele estava começando a aparecer em todo o mundo: no Royal Albert Hall, Londres, Boston, Massachusetts e no Festival Bayreuth.
Como cantor de ópera, Fischer-Dieskau se apresentou principalmente em Berlim e na Ópera Estadual da Baviera em Munique. Ele também se apresentou na Ópera Estadual de Viena, no Royal Opera House, Covent Garden em Londres, na Ópera Estadual de Hamburgo, no Japão, e no Teatro do Rei em Edimburgo, durante o Festival de Edimburgo. Sua primeira turnê nos Estados Unidos aconteceu em 1955, quando ele tinha 29 anos. Para seus recitais lá, ele foi acompanhado por Gerald Moore. Ele gravou muitos Lieder com Gerald Moore, e deu muitos recitais com ele até Moore se aposentar em 1967. No entanto, eles continuaram a fazer gravações depois disso. Suas gravações dos ciclos de canções Schubert Die schöne Müllerin e Die Winterreise foram muito bem pensadas.
Fischer-Dieskau também executou muitas obras de compositores vivos, incluindo Benjamin Britten, Samuel Barber, Hans Werner Henze, Karl Amadeus Hartmann, Ernst Krenek e Witold Lutosławski.
Fischer-Dieskau também gravou muitos papéis famosos em óperas italianas, por exemplo, Rigoletto de Verdi e Rodrigo em Don Carlos de Verdi, Scarpia em Tosca de Giacomo Puccini. Ele se aposentou da ópera em 1978.
A musicalidade e a técnica de Fischer-Dieskau sempre foram perfeitas. Ele se aposentou da sala de concertos no dia de Ano Novo, 1993, aos 67 anos, e passou seu tempo dirigindo, ensinando (especialmente a interpretação de Lieder), pintando e escrevendo livros.
