Tout commence par un chemin de campagne. Avant que Paris ne la digère, la future rue de Grenelle n'est qu'un vague sentier boueux reliant la rive gauche à l'ancien village de Grenelle — village qui doit lui-même son nom à une garenne appartenant à l'abbaye de Sainte-Geneviève. Les archives médiévales l'appellent tour à tour chemin aux Vaches, chemin de la Forest ou chemin de la Justice, autant de noms qui disent la campagne ouverte, les troupeaux et les gibets. Le nom latinisé Garanella apparaît dans les vieux textes, avant que la forme Grenelle ne s'impose définitivement. Deux kilomètres et quart, dix mètres de large : la rue est longue comme une ambition et a traversé les siècles avec l'appétit qui va avec.
Au XVIIIe siècle, elle entre dans l'histoire de pierre. En 1739, Bouchardon sculpte pour le n° 57-59 la célèbre fontaine des Quatre-Saisons, chef-d'œuvre un peu sévère que Voltaire railla mais que les Parisiens finirent par aimer. Plus loin, des postes d'octroi marquent, dans les années 1760, la limite fiscale de la ville — la rue traverse littéralement la frontière entre Paris et sa banlieue. À l'autre bout de la décennie, Mme du Barry se console au n° 116 de la mort de Louis XV avec le duc de Brissac : la rue de Grenelle a aussi ses alcôves.
La Révolution et l'Empire en font une artère du pouvoir. Germaine de Staël tient salon au n° 105 dès 1789, puis s'installe au n° 102 ; le ministère des Affaires étrangères s'y loge de 1796 à 1821, sous les yeux de Talleyrand qui y officia. Delacroix arrive enfant au n° 50, loue plus tard un atelier au n° 118 pour peindre les Massacres de Scio, tandis qu'Alfred de Musset grandit au n° 59, y écrit La Nuit de mai et Les Contes d'Espagne et d'Italie. En 1832, c'est au n° 101 que Casimir Perier, ministre de l'Intérieur, succombe au choléra ; en 1848, Guizot s'enfuit en catimini par la porte de derrière du même immeuble, devenu entre-temps le ministère de l'Intérieur, au moment où la révolution gronde dehors.
La Commune de 1871 frappe la rue de plein fouet. Au n° 127, les fédérés font arrêter l'archevêque Darboy ; au n° 138, ils font sauter l'École d'État-major devant l'avancée versaillaise ; au n° 99-101, une cour martiale juge à la chaîne — des milliers de procès, des centaines de déportations. La station du télégraphe Chappe installée depuis la Révolution au n° 103 est elle aussi investie par la Garde nationale fédérée, symbole d'une rue qui, du chemin aux Vaches au canon, n'a jamais cessé d'être au cœur de l'histoire.