Avant de porter son nom singulier, la voie n'était qu'une ruelle du Montparnasse, modeste chemin de traverse à la lisière de la ville. C'est au milieu du XIXe siècle qu'elle prend forme et caractère, lorsque le général Taponnier, propriétaire des terrains environnants, lui offre un baptême tout militaire : Campagne Première, en souvenir de sa toute première campagne, menée à Wissembourg. Le nom a quelque chose d'insolite dans ce quartier d'artistes — une odeur de poudre au pays des pinceaux et des pellicules.
La rue conserve longtemps des traces de son passé plus ancien : au n° 13 s'ouvre dès 1785 une entrée de service des Catacombes, discret seuil vers le monde souterrain. Au n° 21 subsiste jusqu'en 1887 le vieux passage du Montparnasse, avalé par le percement du boulevard Raspail. Et Rochegude signale encore, au n° 31, une école nationale d'équitation installée depuis 1805 avec ses bas-reliefs — vestige d'une époque où le quartier n'avait pas encore basculé dans la bohème.
C'est pourtant la bohème qui fait la légende de la rue. Durant la Commune de 1871, le n° 21 sert de cachette à Jules Vallès, réfugié chez son ami le sculpteur François Roubaud avec le journaliste Pierre Denis — cependant que des agents versaillais restés clandestins à Paris y mènent leurs propres opérations de sabotage, sur ordre du ministre de la Guerre depuis Versailles. À peine la répression terminée, Arthur Rimbaud s'installe au n° 18 pour y cohabiter trois mois tumultueux avec Jean-Louis Forain, en compagnie de Paul Verlaine — les « orgies » de la rue Campagne-Première entrent dans la légende rimbaldienne.
Le siècle suivant confirme la vocation de la rue comme refuge d'élection pour les créateurs. François Pompon y sculpte ses animaux monumentaux de 1877 à 1933 ; Eugène Atget y vit et y meurt au n° 17 bis, photographiant Paris avec une obstination de visionnaire ; Man Ray y installe son atelier surréaliste de 1922 à 1940 ; Elsa Triolet et Louis Aragon s'y retrouvent ; Rainer Maria Rilke, Giorgio de Chirico et Léonard Foujita y séjournent tour à tour. En 1960, c'est au n° 11 que Godard filme une scène de À bout de souffle avec Belmondo — dernière épiphanie d'une rue qui n'a cessé de nourrir l'imaginaire.