Avant d'être une rue, c'est un chemin — ou plutôt plusieurs : le chemin des Charbonniers, le chemin des Treilles, le chemin de l'Oseraie — qui serpentent dans les marges de la rive gauche, entre les champs et les clos de vigne du faubourg Saint-Germain. Tout change en 1631 quand les religieux dominicains s'y établissent et donnent à la voie son nom définitif. Les arrêts du Conseil d'État de 1700, 1701 et 1703 entérinent son ouverture officielle et tracent ce long couloir de dix mètres de large qui ira finir, près de deux kilomètres plus loin, au pied du champ-de-Mars. La rue naît ainsi en deux tronçons distincts, longtemps désignés séparément — rue Saint-Dominique Saint-Germain côté abbaye, rue Saint-Dominique du Gros-Caillou côté village —, et un mégalithe planté au n° 58 matérialisait encore en 1738 la frontière entre les censives des abbayes de Sainte-Geneviève et de Saint-Germain.
Au XVIIIe siècle, la rue Saint-Dominique devient l'une des adresses mondaines les plus copiées de Paris. Au n° 10–12, Françoise Athénaïs de Rochechouart de Mortemart — Mme de Montespan — se retire dès 1687 après avoir été supplantée dans le cœur de Louis XIV par la Maintenon ; le même immeuble verra plus tard fleurir le salon de la marquise Marie du Deffand (1755–1780). Juste à côté, au n° 6, Julie de Lespinasse s'installe après sa rupture avec Mme du Deffand et y tient son propre salon, sous-louant une chambre au mathématicien Jean le Rond d'Alembert, qui emménage en 1764. Talleyrand donne quant à lui ses fameux « déjeuners de Bellechasse » au n° 9–11 en 1786, réunissant banquiers libéraux et soutiens de Calonne. La Révolution laisse une trace discrète mais éloquente : sur les plaques de pierre gravées en 1729, les deux lettres « St » ont été soigneusement grattées, comme si le saint patron des Prêcheurs dérangeait les nouvelles autorités.
Sous le Consulat et l'Empire, la rue se couvre de belles demeures officielles : la mère de Napoléon s'installe au n° 14–16 de 1804 à 1817 ; le médecin impérial Jean-Nicolas Corvisart réside au 35–37 ; le maréchal Louis-Nicolas Davout meurt au n° 107 en 1823, lui qui avait réorganisé l'armée après Waterloo. Le ministère de la Guerre, établi au n° 14, devient un nœud névralgique : c'est là qu'en 1894 le capitaine Alfred Dreyfus est convoqué, piégé, puis arrêté. C'est là aussi que, pendant la Commune de 1871, le général Cluseret tente de neutraliser le Comité central de la Garde nationale en le déplaçant dans ses murs, et que se tient la dernière et houleuse réunion du Comité. Non loin, au n° 62 — siège du ministère des Travaux publics sous la Commune —, Léo Fränkel et Benoît Malon créent en avril 1871 une commission d'initiative sur les ateliers abandonnés, premier embryon d'une politique ouvrière du logement. La rue aura également vu naître Alexis de Tocqueville (au n° 77, en 1805) et mourir Gustave Doré (en 1883), dont l'atelier et la demeure se confondaient entre les n° 7 et 73 selon les sources.