La rue des Gravilliers est l'une des plus anciennes artères du Marais septentrional. Elle apparaît dès 1250 sous le nom de rue aux Gravelliers — et c'est ce métier disparu, le gravillier, qui lui a donné sa physionomie. Ces artisans préparaient la cendre gravelée, un mordant à base de potasse obtenu en incinérant des lies de vinaigre, indispensable à l'apprêt des lainages. Rochegude signale également une tradition concurrente : un boucher du nom de Gravelier y aurait habité, et certains historiens lui attribuent paternité du toponyme. L'incertitude reste entière, mais le premier récit — l'odeur âcre des fours, le quartier tout entier marqué par le travail du textile — colle mieux à la géographie ouvrière du lieu. En 1851, une décision ministérielle réunit à cette rue la rue Jean Robert, portant le tracé à ses dimensions actuelles : 375 mètres reliant la rue du Temple à la rue Saint-Martin et à la rue de Turbigo.
La rue fut de tout temps une rue populaire et remuante. Au n° 44, la tradition veut que d'Artagnan ait eu là sa demeure et ses écuries — avant que la cour ne devienne, à partir de 1865, le premier local parisien de l'Association Internationale des Travailleurs. C'est là que le jeune Zéphirin Camélinat, futur membre de la Commune, habite et que les réunions du jeudi soir réunissent des ouvriers si sérieux et méthodiques qu'on les surnomme les Graves. Au n° 67, Claude Jonquoy, membre de la Section des Gravilliers, est guillotiné le 11 Thermidor an II — l'un des derniers à tomber avant la chute de Robespierre. En 1804, c'est au n° 88 que des conjurés du complot de Georges Cadoudal contre Bonaparte sont arrêtés. En 1839, la rue est encore au cœur de la tempête : Armand Barbès y est cueilli vers dix-neuf heures, à l'issue de l'insurrection de la Société des Saisons.
La rue garde aussi ses passages : au n° 24 et au n° 34, des venelles pittoresques filent vers la rue au Maire et la rue des Vertus, vestiges d'une trame médiévale que le n° 9 illustre encore aujourd'hui. Artisans, militants, conspirateurs — la rue des Gravilliers a toujours été une rue où quelque chose se trame.