La rue des Francs-Bourgeois tient son nom d'une maison d'aumône médiévale — installée à l'emplacement des actuels numéros 32-36 — qui accueillait des bourgeois si pauvres qu'on les avait affranchis de tout impôt : des « francs bourgeois ». Avant de porter ce nom, la voie s'est appelée successivement rue des Poulies, rue Ferri des Poulies, rue des Vieilles Poulies, rue de l'Écharpe Blanche, rue Henri IV ou encore rue des Francs Citoyens — un palimpseste toponymique qui dit à lui seul les siècles traversés. Sous ses pavés courent encore les vestiges de l'enceinte de Philippe Auguste (vers 1190) : une tour subsiste au 57 bis, sauvée de justesse au XIXe siècle grâce à l'intervention de Victor Hugo.
La rue a été le théâtre de drames qui ont changé la France. En 1392, devant le n° 61, Pierre de Craon tente d'assassiner le connétable Olivier de Clisson — l'affaire plonge le roi Charles VI dans une crise de folie dont il ne guérira jamais. Quinze ans plus tard, le 23 novembre 1407, Louis Ier d'Orléans est assassiné au coin de la rue (n° 38) sur ordre de Jean sans Peur : c'est l'étincelle qui embrase la guerre civile entre Armagnacs et Bourguignons pour une trentaine d'années. En 1572, c'est encore dans cette rue — à l'hôtel de Guise — que se décide le déclenchement du massacre de la Saint-Barthélemy.
Les siècles suivants apportent d'autres habitués illustres. La jeune Marie de Rabutin-Chantal, future Madame de Sévigné, grandit ici chez ses oncle et tante au n° 35-37 à partir de 1637. Au n° 29 bis, le salon du maréchal d'Albret réunit les esprits les plus brillants du Grand Siècle, dont Françoise d'Aubigné — la future Madame de Maintenon — et Françoise de Rochechouart de Mortemart, future Madame de Montespan. Plus tard, Nicolas Appert, inventeur de la conserve alimentaire par stérilisation, réside aux n° 44 et 58 entre 1828 et 1833.
La Révolution puis la Commune laissent leurs marques vives. En 1789, vingt-cinq tonnes de poudre prises à la Bastille sont entreposées au n° 60 ; la Convention y installe ensuite les Archives nationales, officiellement ouvertes en 1808. En mai 1871, lors de la Semaine sanglante, le gardien André Alavoine empêche l'incendie des Archives — trente millions de documents sauvés in extremis — tandis qu'une barricade armée d'un canon tient le carrefour du n° 61 contre les troupes versaillaises.