Ato 1
O ato I ocorre no quarto do Marschallin. A Marschallin é uma senhora aristocrática de 32 anos. Ela tem um amante, um jovem rapaz de 17 anos chamado Octávio. Quando a ópera começa, ouvimos pela primeira vez um prólogo orquestral. A música sugere que o Marschallin e Octávio estão fazendo amor. Então a cortina se abre e nós vemos os dois juntos. Eles ouvem um barulho e o Marschallin pensa que seu marido está vindo, então Octávio se esconde. Não é seu marido, mas seu primo Barão Ochs. Ochs é um homem muito mal-educado e de más maneiras. Ele entra no quarto do Marschallin, embora os criados lhe tenham pedido para esperar. Octávio consegue trocar de roupa e aparece vestido como uma empregada chamada Mariandel. Ochs acha que "ela" é bonita e quer que "ela" o conheça. Então ele conta ao Marschallin o que veio buscar: ele quer um jovem cavaleiro para entregar a rosa de prata à sua noiva Sophie. Ele também precisa de um notário para assinar os documentos legais do casamento. Ochs canta sobre a diversão de fazer amor. Ele deseja ser como Júpiter que foi capaz de se disfarçar de muitas maneiras.
Começa o levée matinal. Isto significa: a cerimônia do levantamento do Marschallin. Várias pessoas entram. Entre elas: um tenor italiano que canta uma ária, dois italianos chamados Valzacchi e Annina, que estão sempre espalhando fofocas, e um notário. Quando o notário diz a Ochs que ele precisa pagar um dote à sua noiva, não o contrário, Ochs fica muito zangado.
Quando o Marschallin é deixado sozinho, ela canta uma canção sobre como está perdendo sua aparência juvenil. Octávio volta e a anima um pouco, mas ela se sente triste quando ele diz adeus muito educada e formalmente, nem mesmo beijando-a. O Marschallin envia seu pequeno pageboy preto para correr atrás dele com a rosa prateada.
Ato 2
A história continua na grande sala da casa de Herr von Faninal, o pai de Sophie, com quem Ochs quer se casar. Sophie espera a chegada da rosa de prata (a convenção da época diz que seu pai não deve estar presente). Octávio entra e lhe dá a rosa. A música, neste momento, é muito bonita e muito famosa. As pessoas na sala estão conversando, então o Barão Ochs entra rudemente. Sophie fica chocada com suas más maneiras. Ochs cantarola sua valsa favorita, depois vai para a sala ao lado para assinar um contrato de casamento. Sophie se afunda nos braços de Octávio. Quando Ochs volta, Octávio lhe diz que Sophie não o quer, mas Ochs não lhe dá ouvidos. Eventualmente Ochs pega sua espada e começa a lutar contra Octávio, que feriu levemente Ochs. Ochs está furioso, mas acalma-se um pouco depois de receber um pouco de vinho.
Octávio se apaixonou por Sophie, e Sophie por ele. Ele quer usar Valzacchi e Annina para ajudá-lo com um plano. Ele escreve uma nota para Ochs, que deveria ser da empregada Mariandel, pedindo-lhe para conhecê-la. Ele pede a Annina para levar a nota a Ochs, que fica encantada quando ele a lê. Ele canta sua valsa favorita.
Ato 3
A cena é uma pousada perto de Viena. Valzacchi e Annina trabalham agora tanto para Octávio como para Ochs. Eles preferem trabalhar para Octávio porque ele lhes paga mais dinheiro. Eles estão planejando truques sobre Ochs.
Ochs encontra Mariandel (Octavianus vestida de empregada novamente). Ele tenta embebedar-se "ela", mas "ela" canta timidamente "Nein, nein! i' trink kein Wein". ("Não, não, eu não bebo vinho"). Ochs acha que "ela" se parece com Octávio. Então estranhas figuras de pessoas aparecem em uma janela. Então Annina entra e diz que é a esposa de Ochs a quem ele desertou. Então, algumas crianças entram e dizem que Ochs é o pai deles. Ochs fica muito envergonhado quando o Faninal chega e diz que Mariandel é sua noiva. Ele diz ao povo que nunca viu o Faninal antes. Depois aparece o Marschallin e também a polícia. A noite é um desastre para Ochs. O Marschallin diz à polícia que é apenas uma brincadeira. Ela manda Ochs embora.
O Marschallin, Sophie e Octavianus cantam um belo trio (usando algumas das músicas da canção "Nein, nein, i' trink kein Wein"). Octávio é perdoado. Ele é deixado sozinho com Sophie e eles cantam um dueto juntos, depois saem de mãos dadas. Ela deixou um lenço no chão. O pequeno pageboy preto o pega e corre atrás deles.