Le quai doit son nom à Charles Boucher d'Orsay, conseiller au Parlement et prévôt des marchands de Paris au début du XVIIIe siècle : c'est sous sa magistrature que la première section du quai fut aménagée, en 1705, le long de la rive gauche de la Seine. Le nom officiel « quai d'Orsay » ne s'impose toutefois qu'en 1815, après les soubresauts révolutionnaires et impériaux qui avaient multiplié les rebaptisages de voies.
Avant que la diplomatie et la politique ne s'en emparent, ce quai est d'abord un quai industriel. Les frères Périer — Jacques-Constantin et Auguste Charles — y implantent, à partir de 1786, la célèbre pompe à feu du Gros-Caillou, machine à vapeur destinée à alimenter Paris en eau, et y tentent l'aventure de moulins à vapeur pour la mouture industrielle du grain : une ambition pionnière, mais aux rendements décevants. Le grondement des machines côtoie alors les lavandières et les bateliers.
Mais c'est le Palais Bourbon (n° 33) qui fait du quai d'Orsay un théâtre de l'histoire nationale. Sous la Révolution, le palais « ci-devant Bourbon » est rebaptisé Maison de la Révolution, sert brièvement de prison sous la Terreur, puis accueille le Conseil des Cinq-Cents à partir de 1798. C'est ici que Lamartine tergiverse avant de se prononcer pour le Gouvernement provisoire en 1848 ; que Barbès tente depuis la tribune de proclamer un nouveau gouvernement ; qu'un Proudhon affronte un Thiers devant une assemblée hérissée ; que Gambetta prononce la déchéance de Napoléon III en 1870 sous la pression de la foule envahissant l'hémicycle. Pendant la Commune, le palais sert d'état-major au général Bergeret, tandis que Thiers s'échappe en hâte par le pont d'Iéna.
À quelques numéros de là, le ministère des Affaires étrangères (n° 37) donne son autre visage au quai : celui de la diplomatie secrète. En 1871, c'est là que le gouvernement tente de convaincre les maires parisiens d'accepter la capitulation, et que Paschal Grousset s'en empare au nom de la Commune pour en faire, le temps de quelques semaines fiévreuses, le poste avancé de la révolution face à Bismarck.