Avant d'être une artère haussmannienne de vingt-quatre mètres de large, la rue de Sèvres n'est qu'un chemin poussiéreux qui file plein sud-ouest vers la Seine et les coteaux de Sèvres — c'est d'ailleurs de cette destination que lui vient son nom définitif. Les anciens toponymes disent tout de ce qu'on y croisait : chemin des Charbonniers, rue du Bouloir, chemin de Meudon, et surtout rue des Petites Maisons, du nom de l'établissement qui allait longtemps dominer ce bout de faubourg. Car dès 1497, on installe ici un hôpital destiné aux syphilitiques — soldats rentrés de Naples dans les bagages de Charles VIII et porteurs du « mal napolitain ». L'établissement évolue en maison d'aliénés, les célèbres Petites Maisons, au point que « aller aux Petits Ménages » devient synonyme populaire d'aller chez les fous. C'est là que la révolutionnaire Théroigne de Méricourt, la « dame en rouge » des journées de 1789, finit internée à partir de 1800, brisée par des années d'emprisonnement et de violences, et n'en ressortira jamais.
La rue porte aussi les marques du siècle des Lumières. Au n° 111, César Gabriel de Choiseul-Praslin, ministre de la Marine, loge dans un hôtel où se trame notamment la circumnavigation de Bougainville. Au n° 149-151, un pensionnat n'admet que les jeunes filles capables de prouver deux cents ans de noblesse — on ne fait guère plus sélectif. En 1777, Suzanne Curchod, épouse du ministre Jacques Necker, fonde à deux pas un hospice qui donnera son nom à l'hôpital voisin. Plus pittoresque encore : entre 1730 et 1778, le n° 125 accueille des combats d'animaux — lions, tigres, ours et taureaux s'y affrontent sous les yeux des badauds.
La Révolution traverse la rue comme une lame. Le n° 16 devient prison sous la Terreur, tandis qu'au n° 25-27 les Augustins maintiennent coûte que coûte leur couvent pour soigner les pauvres. Le Consulat puis l'Empire reconfigurent le quartier : en 1806 s'élève au n° 42 la fameuse fontaine du Fellah, figure égyptienne inspirée d'Osiris, alimentée par les eaux de l'Ourcq — caprice néo-antique qui surprend encore le promeneur. C'est pourtant le Bon Marché, ouvert en 1852 aux n° 22-24, qui transforme radicalement la physionomie de la rue : premier grand magasin parisien, il invente la vente à prix fixe, les soldes, l'entrée libre, et fait de ce tronçon un des axes commerciaux les plus fréquentés de Paris. Alexandre Dumas père y louait une chambre discrète dès 1829 ; Joris-Karl Huysmans y vécut pendant plus de vingt ans au n° 11 ; et c'est ici que le jeune Jacques Prévert, en 1916, pousse des caisses entre les rayons du Bon Marché sans se douter encore qu'il deviendra poète.