Avant d'être une rue, c'est un chemin. Un chemin qui longe les terres de la puissante abbaye de Saint-Germain-des-Prés et passe devant le colombier que les moines y ont édifié — ce colombier qui donnera finalement son nom définitif à la voie, après bien des hésitations. Car la rue a connu une incroyable valse d'appellations : rue de la Pelleterie, chemin de Cassel, rue de la Maladerie, grant rue Saint-Sulpice… autant de noms qui trahissent, chacun, un état du quartier : les pelletiers qui y travaillent, l'hôpital pour lépreux qui s'y trouvait, le grand axe de desserte vers l'église toute proche. C'est finalement le vieux colombier abbatial qui l'emporte, et la rue en porte encore la mémoire.
Au n° 4, dans la seconde moitié du XVIIe siècle, Nicolas Boileau Despréaux reçoit ses amis. Pas n'importe lesquels : Jean de La Fontaine, Jean Racine, Molière et le poète libertin Claude-Emmanuel Lhuillier dit Chapelle s'y retrouvent régulièrement entre 1661 et 1683. La rue du Colombier devient ainsi, le temps de ces soirées, un des foyers discrets du grand classicisme français. Un siècle plus tard, c'est Jean-Paul Marat qui s'y installe, au n° 47 : en 1784, à 41 ans, il y retombe dans l'anonymat après une série de déboires scientifiques — personne ne se doute encore du rôle que jouera cet homme dans la Révolution qui approche. La Révolution, justement, secoue aussi la rue : l'extrait Rochegude rappelle que les bâtiments du grand séminaire voisin, supprimés en 1792, servirent sous le Directoire à loger les femmes de militaires avant d'être rasés vers 1800. Aux premières années du Consulat, le n° 4-6 abrite le Grand Orient de France en cours de reconstitution.
Le XIXe siècle y voit passer Charles Baudelaire — il habite au n° 22 en 1839, jeune homme encore —, puis la Semaine sanglante de mai 1871 y laisse des traces sanglantes et concrètes : de violents combats opposent les Fédérés aux Versaillais au niveau des n° 12-13. L'immeuble du n° 21 concentre à lui seul une bonne part de l'histoire du XXe siècle : Jacques Copeau y fonde en 1913 sa Compagnie du Vieux-Colombier, ce « théâtre expérimental » qui révolutionne la scène française et forge une génération de créateurs, de Louis Jouvet à Charles Dullin. La même salle accueille en 1944, en pleine Occupation, la création d'Huis Clos de Jean-Paul Sartre, puis en 1947 une conférence fracassante d'Antonin Artaud. Entre-temps, Jacques Prévert, arrivé enfant au n° 7 en 1912, y a grandi jusqu'à la mort de son père en 1936 — la rue a donc bercé l'une des voix poétiques les plus populaires du siècle.