En France puis en Espagne, au XVI^e siècle.

Acte I
Au cours d’une chasse dans la forêt de Fontainebleau, Don Carlos, fils de Philippe II, roi d’Espagne, rencontre une belle inconnue en qui il reconnaît bientôt la femme que son père lui destine : Élisabeth de Valois, fille du roi de France. C’est un coup de foudre, mais à peine les deux jeunes gens ont-ils le temps de se déclarer leur amour que l’ambassadeur d’Espagne annonce qu’Élisabeth devra finalement épouser non pas Carlos mais Philippe II lui-même. Devant l’insistance du peuple qui exhorte Élisabeth à accepter afin d’assurer la paix entre les deux pays, la jeune femme cède. La mort dans l’âme, les deux jeunes gens sont contraints de se séparer.

Acte II
Rodrigo, marquis de Posa et ami intime de Carlos, conseille à l’infant de consacrer dorénavant sa vie à la cause de la Flandre, qui lutte pour retrouver son indépendance. Peut-être cette cause lui fera-t-elle oublier son amour pour celle qui est dorénavant sa belle-mère… Avant de partir pour la Flandre, Carlos souhaite revoir Élisabeth. Celle-ci reste inébranlable : leur amour est devenu désormais impossible.
Le roi est offusqué de découvrir que la reine ait pu avoir cet entretien en tête-à-tête avec son fils, sans qu’aucune dame de la cour ait été présente.  Soupçonnant une intrigue entre Élisabeth et Carlos, il demande à Rodrigue de se montrer vigilant avec eux.

Acte III
Un bal masqué est donné dans les jardins royaux. Élisabeth, souhaitant échapper aux mondanités, donne son masque et sa mantille à sa dame d’honneur la princesse Eboli et la charge de se rendre à la fête à sa place. Mais Eboli est secrètement amoureuse de Carlos : elle donne rendez-vous à l’infant qui, trompé par le déguisement de la jeune femme, la prend pour la reine. Il lui fait une déclaration d’amour enflammée. Eboli comprend alors que l’infant aime sa mère Élisabeth. Rongée par la jalousie et blessée dans son amour-propre, elle jure de se venger.
Alors qu’a lieu un autodafé, le cortège royal est arrêté par une délégation de Flamands conduite par Carlos, venant réclamer au roi d’Espagne l’autonomie de la Flandre. Philippe II refuse et accuse les délégués flamands de rébellion : il demande qu’ils soient arrêtés. Carlos dégaine alors son épée et s’avance vers son père. Rodrigue se précipite et désarme l’infant. Philippe élève alors le marquis de Posa au rang de duc.

Acte IV
Philippe II est en proie à une profonde mélancolie : la couronne lui pèse, tout comme l’opposition que lui manifeste son fils. Mais par-dessus tout, il souffre profondément de l’indifférence de sa femme, dont il comprend qu’elle ne l’a jamais aimé… Ne sachant quelle conduite adopter vis-à-vis de son fils, il demande son avis au Grand Inquisiteur, lequel lui répond  : « Dieu, pour nous sauver tous, sacrifia le sien ! » L’avis de l’Inquisiteur est sans appel : le roi doit n’avoir aucune pitié vis-à-vis des rebelles, et faire exécuter son fils et Rodrigue.
Eboli a apporté au roi un portrait de l’infant que la reine conservait dans son coffret à bijoux. Le roi accuse alors sa femme d’adultère. Élisabeth s’évanouit en présence d’Eboli qui, prise de remords, décide de tout faire pour sauver Carlos dont elle sait les jours comptés. Elle finira ensuite ses jours dans un cloître.
Carlos a été arrêté et emprisonné. Il reçoit la visite de Rodrigue qui lui annonce avoir pris sur lui l’entière responsabilité de la rébellion afin de le sauver. La vengeance du roi est immédiate : Rodrigue est tué par un homme du roi, il expire dans les bras de son ami. La foule révoltée surgit alors, menée par Eboli : elle réclame que Carlos soit libéré. Mais lorsque paraît le Grand Inquisiteur, tous s’agenouillent, cèdent devant son autorité et abandonnent toute velléité de révolte…

Acte V
Carlos, cependant, a été remis en liberté. Il s’est décidé à partir définitivement pour la Flandre, mais il donne auparavant rendez-vous à Élisabeth dans le cloître de Saint-Yuste afin de lui faire ses adieux. Leur entretien est interrompu par Philippe II qui les surprend. Révolté, il s’exclame : « Il faut un double sacrifice ! », et s’apprête à livrer sa femme et son fils au grand Inquisiteur et aux familiers du Saint-Office. C’est alors que la tombe de Charles Quint s’entrouvre : l’ombre de l’ancien empereur, aïeul de l’infant, apparaît et entraîne Carlos sous terre, le soustrayant définitivement aux souffrances terrestres: « Mon fils, les douleurs de la terre nous suivent encore en ce lieu. La paix que votre cœur espère ne se trouve qu’auprès de Dieu ! ».