Longtemps avant de porter le nom des religieux qui la bordaient, cette voie serpentait sous une demi-douzaine d'appellations successives — rue des Barres, rue des Écoliers de Saint-Denis, rue de l'Abbé de Saint-Denis ou encore rue de l'Hôtel de Nemours — autant de noms qui trahissent l'ancienneté du tissu ecclésiastique et scolaire du quartier. C'est le grand couvent des Grands Augustins, ainsi qualifié pour se distinguer du monastère des Petits Augustins, qui finit par imposer son nom à la rue. L'établissement longeait la Seine depuis le Moyen Âge, et ses murs ont dessiné le cadre de bien des drames.
Le 14 mai 1610 est l'une de ces journées où l'histoire s'emballe : Henri IV vient d'être assassiné par François Ravaillac, et c'est dans un hôtel du n° 8 que le jeune Louis XIII, à peine neuf ans, est intronisé le soir même. La rue se souviendra longtemps de cette nuit de deuil et de couronnement mêlés. Deux générations plus tard, Jean de La Bruyère s'installe au n° 26 et y cisèle une partie de ses Caractères — on imagine volontiers le moraliste observant depuis sa fenêtre ce Paris populaire et marchand qui afflue vers le quai.
Au tournant du XIXe siècle, la rue se fait presque académique : Laplace loge au n° 12, Émile Littré au n° 21, futur père de son dictionnaire monumental ; Augustin Thierry rédige au n° 25 son Histoire de la conquête de l'Angleterre par les Normands, tandis que le jeune Charles Gounod grandit au n° 20. Heinrich Heine s'y installe à son tour de 1841 à 1856, exilé volontaire dans ce Paris qu'il aimait plus que tout. Balzac, lui, y projette son imagination : le n° 7 devient le décor du Chef-d'œuvre inconnu.
C'est encore ce n° 7 — le « Grenier des Augustins » — qui concentre l'énergie la plus explosive du XXe siècle. Jean-Louis Barrault y crée son théâtre expérimental dans les années 1930 ; Jacques Prévert et le Groupe Octobre y répètent en 1935. Puis Pablo Picasso prend possession de l'atelier de 1936 à 1955 : la toile de Guernica, trop grande pour la hauteur sous plafond, doit être inclinée pour être achevée. Au n° 25, le restaurant Le Catalan accueille les fameux « mercredis de Georges Hugnet », rendez-vous du Paris surréaliste sous l'Occupation. Une rue de 213 mètres qui, de Louis XIII à Picasso, n'aura décidément jamais chômé.