A história acontece em um momento em que a Espanha está chegando ao fim de uma guerra com a França. Foi acordado entre os dois países que Don Carlos, herdeiro do trono espanhol, casará com Elisabeth, a filha do Rei da França.
Ato I
Don Carlos quer ver a garota com quem vai se casar. Ele vai para a França e, secretamente, junta-se a uma caçada real na qual Elisabeth participa. Elisabeth e sua página são separadas das outras. Carlos fala com ela e se oferece para levá-la para casa. A princesa lhe pergunta sobre o príncipe com quem ela vai se casar. Carlos diz que ela não precisa se preocupar porque o príncipe é gentil e apaixonado por ela. Ele então mostra a Elisabeth uma foto do príncipe, e então Elisabeth, claro, percebe que é o príncipe com quem ela está falando. Eles cantam um dueto de amor.
Alguns funcionários espanhóis vêm então dizer a Elisabeth que foi decidido que ela não se casará com o príncipe: ela se casará com seu pai, o rei da Espanha. Os dois amantes estão consternados com esta notícia. A multidão pede a Elisabeth que aceite casar-se com o rei da Espanha, para que a guerra pare. No final, ela concorda.
Lei II
Dom Carlos foi a um mosteiro para que ele possa ficar quieto em sua miséria. Seu avô, Carlos V, havia passado seus últimos dias neste mosteiro. Um monge fala com ele. Carlos acha que o monge é parecido com seu avô.
Carlos está cheio de alegria quando seu amigo Rodrigue chega. Ele acaba de voltar da Flandres, onde ainda há muita luta. Carlos lhe conta um segredo: que ele está apaixonado por Elisabeth, que agora se casou com seu pai e é, portanto, rainha da Espanha. Rodrigue lhe diz que ele deveria passar seu tempo ajudando o pobre povo da Flandres. O processo do Rei e da Rainha passa pelo túmulo.
Quando a Rainha deixa a igreja, ela vai para o jardim onde suas damas estão esperando por ela. Um mensageiro lhe entrega uma carta de sua mãe em Paris, mas ao mesmo tempo ele lhe entrega secretamente uma carta de Carlos. Rodrigue fala calmamente com Eboli, a dama de companhia da rainha, enquanto a rainha lê as cartas. Rodrigue pede à rainha que tente persuadir o rei a deixar Carlos falar com ele. Eboli está apaixonado por Carlos. Ela notou como Carlos ficou agitado quando ele esteve na presença da rainha, e acha que é porque Carlos a ama (Eboli).
Carlos tem a oportunidade de conhecer Elisabeth em particular. Ele pergunta-lhe calmamente se ela poderia persuadir o rei a enviá-lo à Flandres. Entretanto, ele não está realmente calmo, e logo começa a ficar bravo com ela por não demonstrar nenhum sentimento de amor para com ele. Ela lhe diz que é seu dever agora que ela é rainha. Carlos compreende, mas ainda está apaixonado por ela. Ele cai a seus pés. Ele a agarra e declara seu amor por ela, mas a rainha se separa dele e ele se apressa em desespero.
Os Reis saem da igreja. Ele está muito zangado por sua esposa ter sido deixada por conta própria. Ele diz à moça à espera para ir embora. A Rainha a conforta. Então ela e suas damas vão.
Rodrigue pede ao Rei que pare de lutar contra o povo da Flandres que ainda está morrendo e passando fome. O Rei diz que eles não foram fiéis e merecem ser punidos. Ele diz a Rodrigue que tem medo do que está acontecendo entre Elisabeth e Carlos. Ele diz a ele para estar ciente da Inquisição.
Ato III
Uma bola mascarada está ocorrendo no palácio em Madri. Carlos está esperando no jardim da Rainha. Uma senhora vem ao jardim, usando uma máscara, como todos os demais. Ele pensa que é a Rainha e diz a ela como a ama. Quando a senhora tira sua máscara, ele percebe que é Eboni. Ela o acusa de amar a Rainha. Naquele momento, chega Rodrigue. Ele diz a Eboni que Carlos não está bem e não entende do que ele está falando. Mas Eboni não é enganado e planeja arruinar seu caso de amor.
A segunda cena do ato acontece em uma praça em Madri. Um autoda-fé está sendo preparado. Durante o tempo da Inquisição espanhola, esta foi uma cerimônia na qual qualquer pessoa que não concordasse com a Igreja Católica Romana era queimada até a morte. Entram monges, seguidos pelos infelizes que vão ser queimados. As pessoas cantam sobre as glórias da Espanha. O rei Philippe aparece e repete como ele lutará contra qualquer pessoa que seja inimiga da Igreja Católica Romana. Seis pessoas, incluindo Carlos, aparecem e se atiram a seus pés, implorando-lhe que impeça suas tropas de matar o povo flamengo. O Rei não vai ouvir falar disso. Algumas pessoas apoiam o rei, mas outras lhe imploram que tenha piedade. Carlos pede então a seu pai que permita que ele governe a Flandres por ele. O rei não permite isto, porque ele percebe que esta poderia ser uma oportunidade para Carlos e o povo flamengo se levantarem contra ele. Carlos está desesperado. Ele desembainha sua espada e diz que vai salvar a Flandres. A multidão está aterrorizada ao vê-lo comportar-se assim diante do Rei. O Rei ordena que seus soldados tirem a espada de Carlos, mas ninguém lhe obedece. No final, Rodrigue (que percebe que isso vai ser ruim para ele) salva a situação pedindo calmamente a espada a Carlos. Ele a entrega e Rodrigue a entrega ao Rei. Os monges se afastam mais e uma voz do céu promete a paz no mundo que está por vir.
ActIV
O Rei está sozinho na igreja. Em uma ária maravilhosa, ele canta de sua tristeza por sua esposa não parecer amá-lo. Entra o Grande Inquisidor. Ele é muito velho, e cego. O Rei lhe fala de seu filho e pergunta ao Inquisidor se Carlos deve ser perdoado ou sentenciado à morte. O Inquisidor responde que é Rodrigue quem deve ser morto. O rei se atreve a discordar. O inquisidor diz ao rei que ele não está entregando seu coração a Deus. O inquisidor vai.
A rainha entra correndo e pede ao rei que a ajude a procurar um caixão de jóias que desapareceram de seu quarto. O Rei lhe mostra que ela está sobre a mesa. Ele lhe diz que ela deve abri-lo. Ela o faz. Na parte de cima está um retrato de Carlos. O rei está muito zangado e a acusa de adultério. Ela desmaia. O rei chama Eboli e Rodrigue para pedir ajuda. O rei sente pena de sua suspeita, mas Eboli sente ainda mais porque foi ela quem levou o caixão porque tinha ciúmes de Carlos e Elisabeth. Foi ela quem sugeriu ao rei que olhasse o caixão de jóias. Rodrigue sente que só pode salvar seu amigo oferecendo-se para ser morto ao invés de Carlos. O Rei e Rodrigue partem. Eboni se joga aos pés da rainha, que agora reviveu, e confessa que ela mesma é culpada de adultério por ter dormido com o rei. Elisabeth permanece calma, mas diz a Eboni para se afastar dela para sempre e viver em um convento. Quando Eboni é deixada sozinha, ela expressa seus sentimentos de terríveis misérias. Antes de ir para o convento, ela tem mais uma coisa a fazer: tentar salvar Carlos de ser morto.
A segunda cena do ato mostra Carlos na prisão. Rodrigue chega até ele. Ele sabe que cartas flamengas dirigidas a Carlos foram encontradas em sua posse. Alguém entra e mata Rodrigue. Ao morrer, ele diz a Carlos que a rainha o esperará no dia seguinte fora do convento e o verá pela última vez. Ele morre.
Às vezes o ato IV termina aqui, mas algumas apresentações continuam a mostrar uma cena em que o rei tenta devolver a espada a seu filho, mas Carlos o acusa de ter assassinado seu amigo. Um grupo de pessoas, incluindo Eboli, entra na prisão e chora para o Rei para libertar Carlos. Aparece o Inquisidor. Ele diz à multidão com raiva que eles são perversos para ir contra a vontade de Deus. Ele diz a todos eles para se ajoelharem e se arrependerem.
Lei V
Elisabeth ajoelha-se diante do túmulo de Carlos V. Ela canta de sua juventude perdida na França (algumas das músicas do Act I voltam aqui). Ela reza pela paz. Elisabeth e Carlos então se encontram pela última vez (seu terceiro dueto na ópera) e desejam tempos mais felizes. O Rei e o Inquisidor têm estado escondidos. Agora eles aparecem e agarram Carlos. Os guardas são mandados agarrá-lo, mas Carlos se defende. De repente, a voz de Carlos V (ou de um monge disfarçado) é ouvida. Ele leva seu neto para a segurança do claustro.
